发生了什么
11月12日,独立研究机构Unemployment Labs发布了一份题为《中国顶级前沿AI模型带有受出口管制的英伟达Blackwell GPU指纹》的报告,作者是前OpenAI研究员Will DePue。报告称,通过对公开发布的模型权重做“取证分析”,发现DeepSeek、月之暗面、MiniMax和蚂蚁集团自2026年4月以来发布的6款模型,其数值特征与英伟达Blackwell系列硬件相符,而这些公司更早的模型则与上一代Hopper系列相符。
报告在Hacker News上获得370多点热度、160多条评论,Tom’s Hardware、The Decoder等媒体相继跟进。报告本身反复强调一句话:这些证据显示的是“接触过先进算力硬件”,并不能确定芯片在哪里、如何获得,也不能确定是否违反了出口管制。
方法:随机数是怎么“记住”芯片的
大模型在训练开始前,需要给数十亿个参数赋上初始值。在报告所研究的软件栈中,PyTorch会通过英伟达的cuRAND库调用名为Philox的伪随机数算法生成这些初始值:给定同一个“种子”,它每次都会生成完全相同的数列。
关键在于分工。为了快速填满海量参数,GPU会把生成任务分给大量并行线程,报告称在其研究的英伟达芯片上,大规模初始化时每个流式多处理器(SM)使用2048个线程。不同芯片的SM数量不同:Hopper系列的H100 SXM、H200和H800为132个SM,Blackwell的B200/B300为148个,GB200/GB300为152个。线程总数不同,同一串随机数被“填”到参数矩阵里的位置就不同。于是,参数的排布方式就成了芯片的指纹。
训练会改变大部分参数,但并非全部。比如词表中训练时从未出现过的词所对应的参数,几乎会完整保留初始值;即便被训练改动过的参数,也会残留微弱的统计痕迹。研究者据此反推种子和线程数:只有两者同时正确,才能复现原始排布。
关键发现和数据
- 6款模型读出Blackwell特征:DeepSeek-V4-Flash和MiniMax-M3对应148 SM(B200/B300);DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro和蚂蚁Ling-3.1-flash对应152 SM(GB200/GB300)。报告指出,K3.1-Pro与K3使用同一种子,可能是K3的后续训练版本;
- 时间线:DeepSeek直到2024年12月的V3仍读出Hopper特征,2026年4月的V4转为Blackwell;Kimi到2026年1月的K2.5为Hopper,7月的K3转为Blackwell;MiniMax的M2.7为Hopper、6月的M3为Blackwell;蚂蚁8月的Ling-3.0-flash为Hopper、10月的Ling-3.1-flash为Blackwell;
- 并非所有中国实验室都如此:阿里通义千问、智谱GLM、腾讯、小米和阶跃星辰的最新可读模型均为Hopper特征;美团LongCat-2.0自称完全在“AI ASIC超节点”上训练,报告未发现英伟达指纹;百度ERNIE-5.5使用飞桨框架,其随机数生成方式不带芯片排布信息,无法判断;
- 实机复现:研究者用未修改的PyTorch在H100上逐位复现了DeepSeek-V3的57344个保留初始值,在B300上复现了V4-Flash所选469行中的461行(其中445行逐位一致),在租用的GB200上复现了Kimi K3全部13行保留数据,种子改动1即全部失配;
- 已知答案校验:在24个开发者公开说明过训练硬件的模型上,该方法的判断全部吻合,例如Meta的Llama 3.1读出132(H100),英伟达Nemotron-3 Ultra读出152,与其技术报告中提到的GB200一致;
- 统计强度:在约6万亿种“种子×排布”组合的搜索中,纯属巧合的最强匹配预计约8个标准差,而6款模型的最强证据在49至1385个标准差之间,最弱的单项检验也有20个标准差。
报告还估算了训练规模:假设模型在初始化所用硬件上完成训练,Kimi K3和DeepSeek-V4-Pro的最终训练分别约需4500块和3000块Blackwell GPU、持续两到三个月,5次训练合计约1.2万块。不过作者明确表示对这些估算“没有把握”,因为算力利用率、训练token数和训练时长都是假设,且报告已在发布当天上调过一次估算。
它不能证明什么
这份报告最值得认真读的,其实是它的“局限”一节。
第一,指纹指向的是生成初始权重的硬件,而不是训练全过程的硬件。理论上,实验室可以在一套系统上生成初始权重,再搬到另一套系统上训练;混合集群也可能让英伟达的痕迹保留下来,却看不出其他芯片的参与。
第二,权重无法说明芯片归谁所有、放在哪里。Blackwell系统可以在中国境外的数据中心租用。Tom’s Hardware在报道中指出,就其所知,中国公司在境外租用Blackwell算力目前并不违法。
第三,存在一个技术上的替代解释:AMD MI300X正常有304个计算单元,但可以被配置为152或148个,并且能生成与英伟达相同的随机数序列。研究者在实体MI300X上验证了这种可能性,随后利用两家厂商在一个计算步骤上的细微数值差异进行区分:在DeepSeek-V4-Flash的377个有差异的数值中,有363个与英伟达一致、0个与AMD一致。对其余5款模型,这项检验无法下结论,作者认为AMD的可能性“非常低”,但这仍是推断。值得一提的是,MI300X同样属于对华出口管制产品。
争议与回应
报告发布后,质疑集中在两点。有人指出,报告附录本身写明,DeepSeek 9月发布的V4.1-Flash在穷尽搜索后没有找到任何指纹。DePue回应称,这只说明DeepSeek在4月的V4之后改变了初始化方式,无法据此判断芯片;他尚未测试华为昇腾的随机数生成器,这将是下一步工作。
另一种质疑是“在租来的Blackwell上初始化、再拿回别处训练”。DePue的反驳是:在24个已知硬件的模型上,方法全部命中,如果实验室普遍在一台机器上初始化、另一台上训练,就不会是24比24;他还称Kimi K3至少由64个独立进程生成初始权重,若要搬运,需要先保存并转移一个超过5TB的检查点,只为得到本地集群几秒钟就能生成的随机数。
其他补充证据来自公开渠道:报告提到,蚂蚁集团公开的cuLA代码库中有一份2026年3月31日在GB300上生成的基准测试结果;而2025年6月,一名DeepSeek工程师曾在GitHub上写道“我们没有SM100 GPU”(SM100即Blackwell)。此前,美国官员和媒体也曾指称DeepSeek和月之暗面使用了Blackwell芯片,但未公开技术证据。上述报道中均未包含涉事公司对该报告的回应。
为什么重要
对出口管制而言,这是第一次有人用可公开复现的技术方法,把“谁在用什么芯片”这一长期依赖情报和爆料的问题,部分转化为可验证的问题。报告的复现代码和保留数据已在GitHub公开,作者称在笔记本电脑上几秒钟就能完成核验。这意味着,未来围绕算力流向的讨论,可能会越来越多地引入这类取证证据。
对开源模型生态而言,这也提出了一个新问题:开放权重在带来透明度的同时,也携带了关于训练环境的“元数据”。可以预期,部分实验室会像DeepSeek在V4.1上那样改变初始化方式,使这种方法失效。指纹能被读出,也就能被抹去,这类取证手段的窗口期可能并不长。
影响和展望
接下来值得关注三件事:一是第三方能否独立复现报告结论,尤其是AMD替代解释无法排除的5款模型;二是作者承诺的华为昇腾随机数测试,若有结果,将回答国产芯片在前沿训练中的实际角色;三是监管层面会否把境外算力租用纳入更严格的管理。
在结论尚未被更多独立研究验证之前,更稳妥的理解是:这份报告提供了有力的技术线索,说明部分中国前沿模型在初始化阶段接触过Blackwell级硬件;但关于芯片来源、使用方式和合法性,权重本身给不出答案。
参考来源
- Unemployment Labs:Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs
- GitHub:macrogrants/checkpoint-forensics(复现代码)
- Tom’s Hardware:Researchers allege DeepSeek, Kimi, and other Chinese AI models were trained using banned Nvidia Blackwell GPUs
- The Decoder:Former OpenAI researcher says he found Nvidia Blackwell fingerprints hidden inside six Chinese AI models
- HuggingNews:Researcher Will DePue Defends Nvidia Blackwell Forensics
- Hacker News讨论
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4680.html