发生了什么
11月5日,英伟达在官方博客中系统介绍了Vera CPU面向AI智能体场景的表现。核心判断是:智能体并不只是“在GPU上生成答案”,它们会检索、查库、写代码、起沙箱、采取行动——这些步骤大量落在CPU上,智能体在任务过程中不断在GPU推理与CPU执行之间切换。
在功率受限的AI工厂里,运营商需要的不是“要么快、要么密”的两套x86拼盘,而是一颗同时兼顾速度与每瓦密度的CPU。英伟达给出的答案就是Vera。
关键细节和数据
英伟达在约100兆瓦数据中心对比口径下称:相对最快的x86,Vera可实现约1.6倍的每瓦智能体数量,同时保持行业领先的智能体速度;相对最节能的x86,Vera在领先能效下可把智能体速度提升约2倍。
合作伙伴的生产型测试给出了更具体的侧面。Perplexity在智能体编程任务上相对传统CPU快约1.5倍,并计划把Vera用于后续生产系统。DeepInfra在编排类负载上相对最佳x86最高约2.2倍;其独立评测中,Vera在runc近裸机条件下编排步进时延约29毫秒,对照Intel Sapphire Rapids约64毫秒。Daytona拉起1000个智能体沙箱仅用10.8秒,对照x86为88.4秒。Modal称每核沙箱吞吐最高可达可比x86的约2倍。ClickHouse标准二进制无需针对Vera专项调优,即可在176核上接近线性扩展。
这些数字共同指向同一点:当智能体并发上升,CPU侧的编排、沙箱启动与数据搬运会成为吞吐瓶颈;Vera试图用更高的单核执行效率与更好的每瓦密度,把“多跑一些智能体”和“每个智能体别等太久”同时做掉。
为什么重要
过去几年,AI基础设施叙事几乎被GPU垄断。智能体把工作流拉长之后,CPU重新变成关键路径:GPU再强,如果沙箱起得慢、编排步进慢,整条链路照样排队。功率墙又决定了机房不能无限堆芯片,于是“每瓦能养多少智能体”成了和“单智能体有多快”同等重要的指标。
Vera的产品意义,在于试图用一颗CPU同时覆盖速度与密度,减少运营商在不同x86型号之间折中选型的痛苦。
影响和展望
对云与推理服务商,Vera更像是智能体托管节点的候选底板:同一台机器上既要跑大量隔离沙箱,又要给GPU喂数据、甚至在剩余核心上兼做轻量推理。DeepInfra等早期评测已经按这个方向在验证。
当然,厂商博客与伙伴测试都有既定口径,真正决定采购的仍是各家生产SLO下的尾延迟、隔离开销与整机功耗。但方向已经清楚:智能体时代的算力竞争,不再只是“谁的GPU更猛”,而是“GPU推理 + CPU执行”这一整圈循环谁更省瓦、更稳。
参考来源
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4382.html