OpenAI 部署控制室系统，35 秒内叫停失控 AI 任务

OpenAI 宣布已在内部研究设施部署“控制室”系统，用于停止可能存在风险的 AI 任务，从收到停止指令到阻止任务继续的最长延迟为 35 秒，公司称正努力将延迟缩短至 0。 工作方式上，任务需向控制室请求唯一任务 ID 并附加到推理请求，引擎据此确认任务能否运行；收到停止指令后，控制室会拒绝下一次推理请求，从而阻止任务输出。与只能事后报警的主动监控不同，该系统可主动阻止任务执行。此外，所有前沿强化学习任务均配备独立模型监控器，用于检查模型行为并在发现潜在问题时发出警报。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。