发生了什么
11月16日,Hugging Face宣布,将Inference Providers(推理服务提供商)中面向语言模型请求的路由,从自建的定制路由器切换到OpenRouter。官方强调,用户现有代码和Hugging Face令牌保持不变:对Hub上由提供商实际托管的开源权重模型,仍可用同一套接口和令牌发起调用,只是每次请求改由OpenRouter根据实时的价格、速度和可靠性选择提供商;若首选提供商失败,会在同一次调用内改试下一家,而不再像过去那样直接把失败返回给用户。
OpenRouter同步发文称,这一路由能力即日起延伸到所有在Hugging Face上使用Inference Providers的开发者。反向地,OpenRouter也可以把每次请求的轨迹发送到用户自己的Hugging Face Storage Bucket中,便于后续评估或微调。
关键细节和数据
新路由支持OpenAI的Chat Completions与Responses接口,以及Anthropic的Messages接口,并适用于每一个聊天模型,无论背后是哪家提供商。用户仍可用模型ID后缀指定策略或锁定提供商,例如默认的综合最优、`:fastest`(追求更高吞吐)、`:cheapest`(追求更低价格),或`:novita`这类指定提供商的写法。路由还考虑缓存:同一段对话会尽量留在已保存提示缓存的提供商上;若要显式绑定会话,可在`X-HF-Session-Id`头中传入稳定的UUID。
关于价格,Hugging Face写明:计费方式不变,用户按提供商价格支付并记在Hugging Face账单上,平台不加价。PRO用户每月获得2美元额度,Team和Enterprise按席位每月2美元。一个需要注意的变更是:语言模型请求现在经由OpenRouter并记入Hugging Face账户或组织,因此不能再为这些模型使用用户自己的提供商API密钥;用户仍可用`model:provider`后缀或在设置中关闭某家提供商。图像和视频提供商的自定义密钥仍可继续使用。图像、视频和音频生成也不走OpenRouter,仍直接由Hugging Face Inference Providers处理。
Hugging Face在博文中援引OpenRouter 2026年10月的统计称,开源权重模型在OpenRouter上的token占比,已从2025年10月的26.8%升至2026年9月末的71.7%,并在当年7月见顶至77.5%;同期,开源权重模型的周用量增长超过60倍,封闭模型则接近10倍。该文还称,当周OpenRouter上使用量最高的模型是开源权重的DeepSeek V4.1 Flash 1017,达59.2万亿token。开源权重模型的平均价格大约低四倍:每百万输入、输出token分别为0.28美元和1.62美元,封闭模型则为1.27美元和6.36美元。在Artificial Analysis Intelligence Index上,该博文援引的数据是:目前表现最好的开源权重模型Kimi K3.1 Pro得分为46,对比Claude Fable 5.2的65分,但单任务成本约为七分之一(3.68美元对26.54美元)。
OpenRouter方面给出的平台规模是:每月处理超过800万亿token,服务逾1000万用户,覆盖600多个模型和80多家提供商。其博客还称,今年10月重建路由后的一次在线实验测得:容量错误减少46%,首token时间改善16.9%,吞吐量提高16.3%,同时单次请求成本上升6.0%。这些均为OpenRouter自己的测量结果。该公告还提到,目前可通过这一路径调用的模型有160个、来自38家实验室,对应OpenRouter所服务且在Hub上有页面的全部模型。
为什么重要
开源权重模型已经占据OpenRouter上的大部分token,但同一模型往往由多家提供商同时托管,价格、速度和稳定性并不总是一致。把路由从“选定一家、失败即返回”改成“按实时指标挑选并自动重试”,降低的是开发者自己做多源容灾的成本。与此同时,账单仍走Hugging Face、代码不必改,也意味着这项切换对已有工作流的侵入较小。真正需要适应的,是自定义提供商密钥不再适用于语言模型这一变化。
影响和展望
对已经把推理流量放在Hugging Face上的团队来说,短期内最实际的影响是可靠性提升,以及必须改用平台账单、不能再把自有密钥接到语言模型请求上。若对延时或单价更敏感,可以用`:fastest`或`:cheapest`自己做取舍;若必须锁定某家提供商,仍可用后缀或在设置中关闭其他来源。图像、视频和音频生成维持原路,说明这次合作先覆盖的是聊天与语言模型。官方也把“把OpenRouter账户连到Hugging Face”以及“让更多任务走OpenRouter”列为下一步。至于开源权重模型在基准上仍落后于顶尖专有模型、但成本低得多这一判断,来自博文所引测评,是否适合具体业务,仍需按任务单独衡量。
参考来源
- Hugging Face:Hugging Face and OpenRouter join forces to make open-weight models easy to run
- OpenRouter:OpenRouter Now Powers Inference on Hugging Face
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4723.html