深度:开源权重里的“芯片指纹”——一份报告称6款中国大模型带有英伟达Blackwell印记,它能证明什么、不能证明什么

不靠内部爆料,只靠公开下载的模型权重,就能推断出它最初是在哪种GPU上“出生”的?一份引发热议的报告给出了方法和结论,也划出了证据的边界。

发生了什么

11月12日,独立研究机构Unemployment Labs发布了一份题为《中国顶级前沿AI模型带有受出口管制的英伟达Blackwell GPU指纹》的报告,作者是前OpenAI研究员Will DePue。报告称,通过对公开发布的模型权重做“取证分析”,发现DeepSeek、月之暗面、MiniMax和蚂蚁集团自2026年4月以来发布的6款模型,其数值特征与英伟达Blackwell系列硬件相符,而这些公司更早的模型则与上一代Hopper系列相符。

报告在Hacker News上获得370多点热度、160多条评论,Tom’s Hardware、The Decoder等媒体相继跟进。报告本身反复强调一句话:这些证据显示的是“接触过先进算力硬件”,并不能确定芯片在哪里、如何获得,也不能确定是否违反了出口管制。

方法:随机数是怎么“记住”芯片的

大模型在训练开始前,需要给数十亿个参数赋上初始值。在报告所研究的软件栈中,PyTorch会通过英伟达的cuRAND库调用名为Philox的伪随机数算法生成这些初始值:给定同一个“种子”,它每次都会生成完全相同的数列。

关键在于分工。为了快速填满海量参数,GPU会把生成任务分给大量并行线程,报告称在其研究的英伟达芯片上,大规模初始化时每个流式多处理器(SM)使用2048个线程。不同芯片的SM数量不同:Hopper系列的H100 SXM、H200和H800为132个SM,Blackwell的B200/B300为148个,GB200/GB300为152个。线程总数不同,同一串随机数被“填”到参数矩阵里的位置就不同。于是,参数的排布方式就成了芯片的指纹。

训练会改变大部分参数,但并非全部。比如词表中训练时从未出现过的词所对应的参数,几乎会完整保留初始值;即便被训练改动过的参数,也会残留微弱的统计痕迹。研究者据此反推种子和线程数:只有两者同时正确,才能复现原始排布。

关键发现和数据

  • 6款模型读出Blackwell特征:DeepSeek-V4-Flash和MiniMax-M3对应148 SM(B200/B300);DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro和蚂蚁Ling-3.1-flash对应152 SM(GB200/GB300)。报告指出,K3.1-Pro与K3使用同一种子,可能是K3的后续训练版本;
  • 时间线:DeepSeek直到2024年12月的V3仍读出Hopper特征,2026年4月的V4转为Blackwell;Kimi到2026年1月的K2.5为Hopper,7月的K3转为Blackwell;MiniMax的M2.7为Hopper、6月的M3为Blackwell;蚂蚁8月的Ling-3.0-flash为Hopper、10月的Ling-3.1-flash为Blackwell;
  • 并非所有中国实验室都如此:阿里通义千问、智谱GLM、腾讯、小米和阶跃星辰的最新可读模型均为Hopper特征;美团LongCat-2.0自称完全在“AI ASIC超节点”上训练,报告未发现英伟达指纹;百度ERNIE-5.5使用飞桨框架,其随机数生成方式不带芯片排布信息,无法判断;
  • 实机复现:研究者用未修改的PyTorch在H100上逐位复现了DeepSeek-V3的57344个保留初始值,在B300上复现了V4-Flash所选469行中的461行(其中445行逐位一致),在租用的GB200上复现了Kimi K3全部13行保留数据,种子改动1即全部失配;
  • 已知答案校验:在24个开发者公开说明过训练硬件的模型上,该方法的判断全部吻合,例如Meta的Llama 3.1读出132(H100),英伟达Nemotron-3 Ultra读出152,与其技术报告中提到的GB200一致;
  • 统计强度:在约6万亿种“种子×排布”组合的搜索中,纯属巧合的最强匹配预计约8个标准差,而6款模型的最强证据在49至1385个标准差之间,最弱的单项检验也有20个标准差。

报告还估算了训练规模:假设模型在初始化所用硬件上完成训练,Kimi K3和DeepSeek-V4-Pro的最终训练分别约需4500块和3000块Blackwell GPU、持续两到三个月,5次训练合计约1.2万块。不过作者明确表示对这些估算“没有把握”,因为算力利用率、训练token数和训练时长都是假设,且报告已在发布当天上调过一次估算。

它不能证明什么

这份报告最值得认真读的,其实是它的“局限”一节。

第一,指纹指向的是生成初始权重的硬件,而不是训练全过程的硬件。理论上,实验室可以在一套系统上生成初始权重,再搬到另一套系统上训练;混合集群也可能让英伟达的痕迹保留下来,却看不出其他芯片的参与。

第二,权重无法说明芯片归谁所有、放在哪里。Blackwell系统可以在中国境外的数据中心租用。Tom’s Hardware在报道中指出,就其所知,中国公司在境外租用Blackwell算力目前并不违法。

第三,存在一个技术上的替代解释:AMD MI300X正常有304个计算单元,但可以被配置为152或148个,并且能生成与英伟达相同的随机数序列。研究者在实体MI300X上验证了这种可能性,随后利用两家厂商在一个计算步骤上的细微数值差异进行区分:在DeepSeek-V4-Flash的377个有差异的数值中,有363个与英伟达一致、0个与AMD一致。对其余5款模型,这项检验无法下结论,作者认为AMD的可能性“非常低”,但这仍是推断。值得一提的是,MI300X同样属于对华出口管制产品。

争议与回应

报告发布后,质疑集中在两点。有人指出,报告附录本身写明,DeepSeek 9月发布的V4.1-Flash在穷尽搜索后没有找到任何指纹。DePue回应称,这只说明DeepSeek在4月的V4之后改变了初始化方式,无法据此判断芯片;他尚未测试华为昇腾的随机数生成器,这将是下一步工作。

另一种质疑是“在租来的Blackwell上初始化、再拿回别处训练”。DePue的反驳是:在24个已知硬件的模型上,方法全部命中,如果实验室普遍在一台机器上初始化、另一台上训练,就不会是24比24;他还称Kimi K3至少由64个独立进程生成初始权重,若要搬运,需要先保存并转移一个超过5TB的检查点,只为得到本地集群几秒钟就能生成的随机数。

其他补充证据来自公开渠道:报告提到,蚂蚁集团公开的cuLA代码库中有一份2026年3月31日在GB300上生成的基准测试结果;而2025年6月,一名DeepSeek工程师曾在GitHub上写道“我们没有SM100 GPU”(SM100即Blackwell)。此前,美国官员和媒体也曾指称DeepSeek和月之暗面使用了Blackwell芯片,但未公开技术证据。上述报道中均未包含涉事公司对该报告的回应。

为什么重要

对出口管制而言,这是第一次有人用可公开复现的技术方法,把“谁在用什么芯片”这一长期依赖情报和爆料的问题,部分转化为可验证的问题。报告的复现代码和保留数据已在GitHub公开,作者称在笔记本电脑上几秒钟就能完成核验。这意味着,未来围绕算力流向的讨论,可能会越来越多地引入这类取证证据。

对开源模型生态而言,这也提出了一个新问题:开放权重在带来透明度的同时,也携带了关于训练环境的“元数据”。可以预期,部分实验室会像DeepSeek在V4.1上那样改变初始化方式,使这种方法失效。指纹能被读出,也就能被抹去,这类取证手段的窗口期可能并不长。

影响和展望

接下来值得关注三件事:一是第三方能否独立复现报告结论,尤其是AMD替代解释无法排除的5款模型;二是作者承诺的华为昇腾随机数测试,若有结果,将回答国产芯片在前沿训练中的实际角色;三是监管层面会否把境外算力租用纳入更严格的管理。

在结论尚未被更多独立研究验证之前,更稳妥的理解是:这份报告提供了有力的技术线索,说明部分中国前沿模型在初始化阶段接触过Blackwell级硬件;但关于芯片来源、使用方式和合法性,权重本身给不出答案。

参考来源

发布者:极致前沿,转转请注明出处:https://www.veryin.com/4680.html

赞 (0)
苹果首款智能屏HomeView首批评测:控制家电快如开关,Siri AI仍会卡壳,家人还能翻到彼此的短信
上一篇 2026年11月15日 下午3:12
谷歌Gemini 4 Carbon登顶MathArena数学榜:预期得分85.4%力压GPT-6.1 Sol,但每题成本约为后者15倍
下一篇 6天前

相关推荐

发表回复

登录后才能评论