发生了什么
11月6日,OpenAI在官网宣布与网络安全创业公司Hacktron达成合作,共同排查OpenAI自身系统中的漏洞。双方工程师与安全研究人员将一起选定优先测试方向,重点放在OpenAI系统如何与第三方服务交互。作为合作的一部分,OpenAI将通过Daybreak Red计划,扩大Hacktron对其前沿模型的访问权限。
OpenAI写道,自己正以同样的紧迫感,把“用前沿AI加速网络防御”的思路用到查找和修复自身漏洞上。公告还提到,本周早些时候公司已宣布Cathedral的研究人员将参与下一轮安全冲刺,同时提高了漏洞赏金,以鼓励独立研究者去发现内部测试可能遗漏的问题。
关键细节和数据
OpenAI与Hacktron的结识来自其安全漏洞赏金计划。官方称,Hacktron研究者发现并披露的漏洞具有实际影响。Hacktron团队构建的是用于代码审查、渗透测试和红队演练的AI智能体;其研究揭示过应用程序、云基础设施与身份系统之间交互中的漏洞。OpenAI认为,这展示了安全工程师围绕AI重构工作流之后,可以更快地开展更有野心的研究。
Hacktron同步在自家博客确认了这一合作,日期同为11月6日。其CEO Zayne Zhang在OpenAI公告中表示,未来网络安全不会由谁拥有最大的安全团队来定义,而取决于谁能更好地把人类创造力与AI驱动的能力结合起来;他认为OpenAI把前沿网络模型交到安全研究者手中,有助于在互联系统的边界处发现复杂漏洞。
此次合作的公开信息仍偏框架性:双方未公布合作期限、费用,以及除“第三方连接”之外更具体的测试清单。OpenAI引导读者前往安全漏洞赏金计划页面,查看哪些系统属于提交范围。
需要区分的是,这与OpenAI本周早些时候发布的网络安全智能体GPT-6 Cyber不是同一件事。后者是面向授权范围内发现可利用漏洞并协助修复的专用模型;此次则是把已经在赏金计划里打出成绩的外部攻防团队请进来,检验OpenAI自己的系统,尤其是智能体把多项服务串起来之后新出现的攻击面。
为什么重要
当AI智能体开始代表用户登录、调用云资源和身份接口,真正危险的往往不在单个模型的提示词,而在服务与服务之间的缝隙。OpenAI把测试重点明确写在与第三方服务的交互上,等于承认:智能体时代的安全问题,会大量出现在连接处,而不是模型卡片上的那几行对齐声明。
它也体现了一种防御姿态的转变——从“我们自己测、社区报奖”扩展到“把攻防智能体团队直接请进门,并给予更强的前沿模型访问”。这对其他大模型公司是一个可对照的治理动作:如果你的产品正在把用户连接到邮箱、代码仓库、云控制台乃至支付接口,你是否准备好用同等强度的外部红队来打这些连接。
影响和展望
短期,外界很难从一则框架性公告判断Hacktron能测到多深、发现会以何种方式对外披露。中期,若这类合作能形成可复用的测试方法——尤其是针对智能体编排第三方接口、身份联邦和云权限的攻击路径——它可能成为前沿实验室安全运营的标配,而不只是一次公关姿态。
对中国企业和开发者的直接启示是:接入智能体之前,要把“它会怎样调用我的身份与云权限”当成一等安全需求来设计,而不是等模型厂商承诺“已对齐”就结束评审。OpenAI同时提高赏金、引入Cathedral参与冲刺,也说明单靠内部安全团队已经不够覆盖智能体带来的组合攻击面。
下一步值得观察三件事:Daybreak Red扩大访问后,Hacktron的测试范围是否会从第三方连接延伸到核心推理栈;赏金计划的范围与奖励是否继续上调;以及这类外部合作的发现,会否以安全公告或产品修复的形式被公开追踪。
参考来源
- OpenAI:Partnering with Hacktron to find vulnerabilities in OpenAI’s systems
- Hacktron:Partnering with OpenAI
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4439.html