嵌入式评估
-
OpenAI启动首轮嵌入式第三方评估:Apollo等四家机构进驻,核查模型会不会“暗中对抗”开发者
OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立机构签署协议,启动首轮嵌入式评估。评估人员可在约定范围内接触模型检查点、训练与评测数据等内部材料;Apollo将派出六人小组驻场四个月,核查模型是否会暗中对抗开发者设定的目标。
OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立机构签署协议,启动首轮嵌入式评估。评估人员可在约定范围内接触模型检查点、训练与评测数据等内部材料;Apollo将派出六人小组驻场四个月,核查模型是否会暗中对抗开发者设定的目标。