Control Room
-
深度:给AI装上“急停按钮”——从OpenAI Control Room看前沿实验室如何应对越来越强的模型
OpenAI公开了内部的Control Room系统:所有研究推理任务都要登记,监控模型或研究人员一旦决定叫停,最长35秒内即可切断模型输出。结合Anthropic新模型系统卡中关于“评估意识”的表述和METR关于递归自我改进的报告,本文分析前沿AI安全工作正在发生的转向。
OpenAI公开了内部的Control Room系统:所有研究推理任务都要登记,监控模型或研究人员一旦决定叫停,最长35秒内即可切断模型输出。结合Anthropic新模型系统卡中关于“评估意识”的表述和METR关于递归自我改进的报告,本文分析前沿AI安全工作正在发生的转向。