深度:微软和英伟达要把加速计算从Azure机柜铺到Windows电脑,开源模型定制也进了Foundry

在微软Ignite期间,英伟达于11月19日发文称,双方正把加速计算从Azure的新一代机柜延伸到企业本地、边缘和Windows电脑。这条线既包括Azure上的Vera Rubin NVL72,也包括在Foundry里定制开源模型,以及面向云PC的Direct Stream显示预览。

发生了什么

11月19日,英伟达在官方博客中宣布,与微软的全栈合作再次扩展:对象不再只是云端训练和推理,而是从Azure里的新一代机柜,延伸到工厂现场的边缘系统,再到Windows电脑。这篇由Dave Salvator撰写的文章,把Ignite上的多项更新串成同一条产品线——企业要能在云里定制模型,也要能把应用部署到数据所在的地方。

同一周,微软也在介绍Windows 365背后的云串流技术Direct Stream,并说明GPU云PC的后续预览计划。把两份材料放在一起看,更能看清双方想解决的问题:模型越来越大、智能体要在企业应用里办事,算力不能只停在超大规模数据中心。

云端:Vera Rubin进入Azure,机密计算和能效一起做

英伟达写道,NVIDIA Vera Rubin NVL72系统已经在Azure数据中心运行,面向高要求的推理、智能体应用,以及大规模训练与推理。微软还在使用英伟达技术加速自身的模型和服务,其中包括用RTX PRO 6000 Blackwell GPU来运行必应的搜索模型,以及用Dynamo软件支撑后训练阶段的强化学习rollout推理。后者与英伟达同一天另文介绍的Dynamo强化学习服务层是同一方向:在超大规模GPU集群上,把出样本、更新权重和故障恢复当成训练基础设施来做。

性能方面,英伟达用最近一轮基于Blackwell的MLPerf结果为Azure上的Vera Rubin预览作注脚:在MLPerf Training v6.1中,Azure用GB200 NVL72系统把规模扩到10240块NVIDIA GPU,训练DeepSeek-V3,是该轮中最大的规模;在MLPerf Inference v6.1中,Azure的GB300 NVL72系统在DeepSeek-R1交互式吞吐这项云端提交上领先逾10%,这一比较来自Signal65。这些数字说的是现有Blackwell机柜的成绩,用来说明双方联合工程的延续,并不能直接等同于Vera Rubin已经跑出的正式成绩。

在安全和能效上,双方还在把机密计算扩展到裸金属和机柜级AI基础设施,目标是在处理过程中保护敏感模型和数据,并让客户在释放模型、数据或密钥之前,能够验证计算环境。英伟达写的是“正在开展”这项工作,尤其是当工作负载跨越更多相互连接的加速器时,如何把保护范围扩到整座AI工厂。为了在既有电力条件下提高有效算力,双方也在合作使用NVIDIA MaxLPS做能效优化。

模型层:Foundry要让企业把开源权重用到自己的业务上

如果说机柜解决的是“有地方跑”,Foundry解决的则是“有办法把模型改成自己的”。英伟达称,双方正在扩大通过Microsoft Foundry提供的模型与服务。其中,无服务器的Programmed Training让开发者保留对后训练流程的控制,基础设施由Foundry管理,企业把注意力放在自己的数据、评测和改进模型行为上。Foundry Managed Compute则新增对部署自定义模型权重的支持,好把定制和上线连到微软的托管服务里。

一个被点名的例子来自安永(EY):该公司用Foundry上的Programmed Training,把NVIDIA Nemotron开源模型改用于企业采购记录分类,在其评测集上把准确率提高了55%,成本则降到专有前沿模型的约十五分之一。这是英伟达转述的企业案例,评测集和对照模型的细节并未在博文中逐项展开,但方向很清楚:对特定业务任务,经过后训练的开源模型,有可能同时改善效果和成本。

在Foundry Managed Compute上,Nemotron 3.5系列也被扩大:Nemotron 3.5 Super面向要长时间运行的编程、研究和业务智能体,Lightning面向需要快速响应和工具调用的应用。配套模型包括用于检索的Nemotron Embed和Rerank、从文档中抽取结构化信息的Nemotron Parse,以及检测有害内容的Nemotron Content Safety。面向高吞吐、低延迟推理的Nemotron 3.5 Bolt,以及语音识别模型Transcribe,英伟达写明是“即将推出”。

科学计算也被接到这条线上。NVIDIA BioNemo Agent Toolkit和ALCHEMI Toolkit将进入Microsoft Discovery目录,覆盖生命科学、药物发现以及材料与化学。其中,BioNeMo让科研人员用自然语言调用计算生物学工作流,由智能体协调工具和模型。首个集成使用了与华盛顿大学蛋白质设计研究所合作开发的RFD4-Proteina模型,用于生成待评估和实验验证的蛋白质结构与氨基酸序列候选。

从云到边,再到云PC:算力要跟着数据走

英伟达把“把AI带到企业数据附近”写成单独一节。Foundry Local对Nemotron 3.5的支持扩大后,推理、编程和会用工具的智能体可以在Azure Local环境中运行,检索模型则用于在文本、文档图像、图表和表格里找证据。Azure Local还将支持硬件合作伙伴提供的RTX PRO 6000 Blackwell GPU,并扩展到NVIDIA Jetson Thor和Jetson Orin等边缘平台,面向机器视觉、机器人和自主作业等工业场景;英伟达的物理AI模型,包括Cosmos,也将进入Foundry Local。在由NVIDIA RTX Spark驱动的Windows电脑上,双方计划在Ignite上演示如何直接在设备端运行大语言模型应用。

对使用云PC的机构,双方要把Direct Stream能力带到带GPU的Windows 365云电脑上。英伟达的说法是:这些能力面向图形要求高的应用,最多支持两路4K、每秒60帧的串流,并在具有挑战性的网络下保持低延迟;目前可报名有限预览,公开预览计划在2027年初。微软在Ignite周期内介绍Direct Stream时还写道,这项技术已经用于今天的Windows 365和Azure Virtual Desktop,并把多年来在连接可靠性、速度、传输安全和会话性能上的投入归到这一名称下;相比Windows 365刚推出时,用户现在可以在数秒内连上云PC,在较差网络下的连接可靠性提升了近300%。GPU云PC这一支还将提供相当于全4:4:4的色彩和更锐利的文字,并由NVIDIA RTX PRO 6000 Blackwell Server Edition GPU负责编码。也就是说,云PC要竞争的不只是“能远程办公”,而是在显示质量和时延上更接近本地工作站。

为什么重要

把这些更新拆开看,每一项都像常规的云厂商发布:新的虚拟机、新的模型目录、新的边缘支持和一档更高清的远程桌面。串起来看,微软和英伟达是在补一张分层图。最上面是能跑超大规模训练和推理的Azure机柜,包括已经进场的Vera Rubin,以及仍在推进的机密计算和电力效率;中间是Foundry里的后训练和托管部署,让企业不必自建全部训练栈,也能把开源权重改成采购分类或文档理解这类专用能力;再往下是Azure Local、Jetson和RTX Spark,把推理推到工厂和桌面;侧面则是带GPU的Cloud PC,用订阅制把高规格显示和部分AI算力送到现有终端上。

这张图针对的是一个已经很明显的矛盾:智能体要读写企业内部系统、处理受监管的数据,并在没有完整API的应用里完成操作,但不是每家企业都愿意、或都有条件把数据和模型完全放到公有云里。因此,“在Azure里把模型训好”和“在本地或云PC里把模型跑起来”被写成同一件事的两端。安永的例子、Discovery里的蛋白质模型、以及微软自己用Dynamo做后训练、用Blackwell GPU跑必应搜索,都是在说明这条线不是只卖给客户的目录,也正在进入微软自己的生产系统。

影响和展望

发布里仍有不少是预览、合作进行中或“即将推出”。Vera Rubin在Azure上是预览,机密计算向机柜级扩展尚未写成已经交付的产品,Bolt和Transcribe还没到,Direct Stream的GPU云PC要到2027年初才计划公开预览,有限预览也只在部分地区开放。MLPerf数字证明的是Azure上Blackwell系统已经达到的规模和吞吐,读者不应把它们误读成Vera Rubin的正式测评。安永的55%和约15倍成本差异,也只对应其自有评测集和所对照的专有前沿模型,不能当成所有行业任务的通例。

即便如此,方向已经很难往回走。当云、本地和桌面开始共用同一组开源模型和同一套托管工具时,企业要做的选择会从“要不要上云”变成“这一层工作应该放在哪一级算力上”。对微软而言,这是把Windows、Azure和Foundry继续绑在英伟达的硬件与软件栈上;对英伟达而言,这是把Vera Rubin、Nemotron、Dynamo和物理AI模型送到已经拥有企业客户关系的云和市场里。接下来真正要看的,不是Ignite展台上的机柜和笔记本,而是这些预览变成可订购服务之后,定制开源模型的成本和云PC的显示体验,能不能支撑起博客里那句更接近本地电脑的承诺。

参考来源

发布者:极致前沿,转转请注明出处:https://www.veryin.com/4837.html

赞 (0)
旅行者1号飞出一光日:无线电信号单程要24小时,NASA用载波信号确认这一历史节点
上一篇 2天前
OpenAI加强对抗蒸馏防护:GPT-6.2 Astra被提取受保护推理的成功率从54.0%降到0.2%
下一篇 1天前

相关推荐

发表回复

登录后才能评论