英伟达Vera CPU:每瓦多承载1.6倍智能体,专为“GPU推理+CPU执行”循环设计

英伟达介绍Vera CPU面向智能体负载的表现:相对最快x86可实现约1.6倍每瓦智能体密度,相对最节能x86约有2倍智能体速度。合作伙伴测试覆盖Perplexity、DeepInfra、Daytona等。

发生了什么

11月5日,英伟达在官方博客中系统介绍了Vera CPU面向AI智能体场景的表现。核心判断是:智能体并不只是“在GPU上生成答案”,它们会检索、查库、写代码、起沙箱、采取行动——这些步骤大量落在CPU上,智能体在任务过程中不断在GPU推理与CPU执行之间切换。

在功率受限的AI工厂里,运营商需要的不是“要么快、要么密”的两套x86拼盘,而是一颗同时兼顾速度与每瓦密度的CPU。英伟达给出的答案就是Vera。

关键细节和数据

英伟达在约100兆瓦数据中心对比口径下称:相对最快的x86,Vera可实现约1.6倍的每瓦智能体数量,同时保持行业领先的智能体速度;相对最节能的x86,Vera在领先能效下可把智能体速度提升约2倍。

合作伙伴的生产型测试给出了更具体的侧面。Perplexity在智能体编程任务上相对传统CPU快约1.5倍,并计划把Vera用于后续生产系统。DeepInfra在编排类负载上相对最佳x86最高约2.2倍;其独立评测中,Vera在runc近裸机条件下编排步进时延约29毫秒,对照Intel Sapphire Rapids约64毫秒。Daytona拉起1000个智能体沙箱仅用10.8秒,对照x86为88.4秒。Modal称每核沙箱吞吐最高可达可比x86的约2倍。ClickHouse标准二进制无需针对Vera专项调优,即可在176核上接近线性扩展。

这些数字共同指向同一点:当智能体并发上升,CPU侧的编排、沙箱启动与数据搬运会成为吞吐瓶颈;Vera试图用更高的单核执行效率与更好的每瓦密度,把“多跑一些智能体”和“每个智能体别等太久”同时做掉。

为什么重要

过去几年,AI基础设施叙事几乎被GPU垄断。智能体把工作流拉长之后,CPU重新变成关键路径:GPU再强,如果沙箱起得慢、编排步进慢,整条链路照样排队。功率墙又决定了机房不能无限堆芯片,于是“每瓦能养多少智能体”成了和“单智能体有多快”同等重要的指标。

Vera的产品意义,在于试图用一颗CPU同时覆盖速度与密度,减少运营商在不同x86型号之间折中选型的痛苦。

影响和展望

对云与推理服务商,Vera更像是智能体托管节点的候选底板:同一台机器上既要跑大量隔离沙箱,又要给GPU喂数据、甚至在剩余核心上兼做轻量推理。DeepInfra等早期评测已经按这个方向在验证。

当然,厂商博客与伙伴测试都有既定口径,真正决定采购的仍是各家生产SLO下的尾延迟、隔离开销与整机功耗。但方向已经清楚:智能体时代的算力竞争,不再只是“谁的GPU更猛”,而是“GPU推理 + CPU执行”这一整圈循环谁更省瓦、更稳。

参考来源

发布者:极致前沿,转转请注明出处:https://www.veryin.com/4382.html

赞 (0)
光轮智能联手新思Ansys:工业接触任务仿真校准误差降91.7%
上一篇 2026年11月6日 上午9:11
深度:谷歌为Anthropic约190亿美元肯塔基租约提供信贷背书,AI算力军备的隐形担保人
下一篇 2026年11月6日 上午9:12

相关推荐

发表回复

登录后才能评论