深度:当AI开始“自证清白”——从Signal协议到量子算法,形式化证明正成为AI的新护栏

过去一周,前沿实验室接连拿出用AI做形式化证明的成果:谷歌DeepMind在四周内证明了Signal加密协议实际代码的关键安全性质,又让智能体团队在Lean中设计出资源消耗低一个数量级的量子程序。当AI产出越来越多、越来越难被人工核对,“让机器证明给机器看”正在成为新的护栏。

发生了什么

11月10日,谷歌DeepMind发布AlphaProof Code。这是一个多模型协作的智能体框架,研究人员用它对Signal协议的真实代码做了形式化验证。Signal协议保护着Signal、Google Messages等应用中数十亿条私密对话。DeepMind称,这是AI首次在如此深度上形式化验证一个被广泛部署的密码协议,也是这类协议的实现代码首次被完整形式化验证,无论是否借助AI。

几乎同时,谷歌DeepMind与Google Quantum AI在arXiv公布论文《用AI发现形式化验证的量子程序》:他们在Lean定理证明器中搭建了量子程序库,让Gemini 4智能体团队针对形式化的问题规格设计新程序,并证明其正确性和资源成本。再往前一天,Anthropic发布Claude Fable 5.2时披露,约1000个智能体用30小时完成了费马大定理的Lean形式化。

三件事放在一起看,一条清晰的趋势已经浮现:形式化证明正在从数学家的小众工具,变成AI产出规模化之后的“质检线”。

关键细节和数据

AlphaProof Code如何验证Signal。它的分工很像一个研究团队:人类专家与多个模型合作,把Signal的安全目标翻译成形式化的数学规格,并逐条审核;随后由Gemini Carbon驱动的智能体完成证明,共生成600多万行Lean代码。智能体还会自查证明,标出需要人工复核的部分,这部分只占代码库的1%,其余由Lean自动检查。

更关键的是验证的深度。多数协议验证只停留在设计层面,而这次证明的是编译后的代码满足关键安全性质,比如设备临时被攻破前后消息依然受保护。现实中的漏洞往往藏在“设计”与“实现”的缝隙里,这正是难点所在。整个过程只用了四周,而这类工作过去需要专家团队花上数年。为了检验系统能否分辨好坏代码,研究人员在隔离版本中重新引入了两个已修复的真实漏洞,系统都给出了机器可检查的“这一版不安全”的证明。Signal首席技术官Ehren Kret表示,在AI驱动的安全威胁增多的背景下,这让团队对代码的隐私保障更有信心。DeepMind表示将开源相关验证成果。

AI智能体如何设计量子程序。量子算法有一个天然难题:规模一大,经典计算机就无法模拟验证,而能运行它们的容错量子计算机还不存在。谷歌团队的办法是把问题写成Lean中的形式化规格(基于量子霍尔逻辑),让多支Gemini智能体团队迭代候选程序,通过共享的维基和定期举办的“线上学术会议”交流引理、中间结果和失败经验,再由独立的验证器对照冻结的规格审核每份证明。

结果相当亮眼:25位定点arcsin运算的时空成本(逻辑比特数×T门数)降低超过290倍;惯性约束核聚变中α粒子阻止本领的模拟成本降低10.9倍,所需逻辑比特从5650个降到4374个;光化学分子动力学模拟降低8.08倍;与药物代谢相关的细胞色素P450模拟降低2.49倍;多目标并行Grover搜索找到全部目标的期望轮数最多减少2.55倍。

为什么重要

第一,它回答了“AI产出谁来检查”的问题。当智能体能一口气写出数百万行代码或证明,人工审阅已不可能覆盖全部。形式化证明的价值在于:结论正确与否不依赖于信任AI,而是交给一个小而可靠的证明检查内核。AlphaProof Code把人类注意力集中在1%的关键部分,正是这种分工的样板。

第二,它把AI安全从“概率”推向“证明”。过去一段时间,前沿实验室纷纷推出面向网络安全的模型和智能体,攻防两端都在被AI加速。DeepMind在文中直言,形式化验证可以与CodeMender等自动防御智能体配合,应对现代网络威胁的速度和规模,并把同样的方法推广到医疗设备固件、电网软件等关键系统。

第三,它让AI可以在“无法实验”的地方做研究。量子程序的例子最能说明问题:这些电路今天的经典和量子计算机都跑不了,唯一检验过它们的是Lean的内核。形式化证明让AI的“发现”第一次在无法实测的领域也具备可信度。

冷静看待

这些成果也有明确的边界。量子论文本身指出,优化后的科学模拟程序仍远超早期容错量子计算机的预期能力,例如核聚变模拟需要的T门数量级仍比中期容错机器的能力高出约百倍;有分析指出,290倍的提升大部分来自仍可被经典方法检验的电路。论文尚未经过同行评审,相关Lean库和解答也表示将“很快”开源。

形式化验证还有一个前提:证明只能保证“代码符合规格”,规格本身是否写对,仍要靠人类专家把关。这也是DeepMind坚持由人类审核每一条规格的原因。

影响和展望

可以预见,“生成+验证”会成为前沿AI研发的标准结构:模型负责大规模提出方案,形式化工具负责给出不可辩驳的检查结果。对软件行业来说,密码库、操作系统内核、金融和工业控制系统可能率先引入AI辅助的形式化验证;对科研而言,数学、量子算法乃至更多理论学科,都可能出现“AI发现、机器证明、人类审定”的新范式。当AI的能力越来越强,一份机器可检查的证明,或许就是人类最可靠的信任凭据。

参考来源

发布者:极致前沿,转转请注明出处:https://www.veryin.com/4541.html

赞 (0)
星链Mini 2发布:71Wh可换电池离电续航4.5小时,机身薄到23毫米,999美元含一年漫游套餐
上一篇 2026年11月11日 上午9:05
Glasswing七个月成绩单被拆解:Anthropic记录近3.8万条漏洞发现,标记修复仅217个,curl维护者判一半以上不算漏洞
下一篇 2026年11月11日 下午3:09

相关推荐

发表回复

登录后才能评论