模型安全
-
OpenAI加强对抗蒸馏防护:GPT-6.2 Astra被提取受保护推理的成功率从54.0%降到0.2%
OpenAI在11月20日的官方文章中介绍了针对对抗蒸馏的防护升级。公司把重点放在保护模型的中间推理过程,并在内部自适应评估里给出一组对照数字:针对GPT-6.2 Astra,从先前请求中提取受保护推理的平均攻击成功率,由GPT-6 Astra在原有防护下的54.0%降到了0.2%。
OpenAI在11月20日的官方文章中介绍了针对对抗蒸馏的防护升级。公司把重点放在保护模型的中间推理过程,并在内部自适应评估里给出一组对照数字:针对GPT-6.2 Astra,从先前请求中提取受保护推理的平均攻击成功率,由GPT-6 Astra在原有防护下的54.0%降到了0.2%。