算力不够用了:DeepSeek对App和网页版设限,闲置超7天的长对话无法续聊,单次输入上限约4万字

调用量几个月翻了几番之后,DeepSeek第一次明确以“算力不足”为由给免费用户设限,这背后是整个行业推理算力的紧张。

发生了什么

11月15日起,多名用户反馈DeepSeek对App和网页版对话服务推出了使用限额。弹窗提示称,因“算力不足”,不再支持超过7天未活跃的长对话;单次输入文字上限被下调到约4万字;每日对话量也设了上限,用满后会提示“因服务器繁忙,使用额度已达上限”。另有部分用户称,闲置门槛已缩短到72小时。

截至发稿,DeepSeek尚未就此发布单独的官方公告,也没有给出恢复时间表。

关键细节和数据

  • 故障频发:据DeepSeek官方状态页,10月以来共记录8起服务异常,多数是响应变慢等性能降级,少数为部分中断。其中10月15日的故障持续4个多小时,网页、App与V4 Pro、V4.1 Flash API同时受影响,事后DeepSeek向API用户发放了补偿;
  • 可用性:8月至10月,V4.1 Flash API可用性为99.46%,V4 Pro为99.74%,折算下来全年分别约有47.3小时和22.8小时不可用;
  • 需求暴涨:OpenRouter周榜显示,10月19日至25日,10月17日更新的V4.1-Flash-1017版本周调用量达33.6万亿token,环比增长801%,位列第一;旧版V4.1 Flash以18万亿token排第二。而7月底至8月初,其周调用量约为7.22万亿;
  • 前端线索:据TokenPost报道,DeepSeek网页代码中出现了按模型统计剩余额度、每5分钟刷新的逻辑,还带有“Coding Plan”字样,引发外界对付费方案的猜测,但价格和上线时间均未确认。

为什么重要

从技术角度看,限制闲置长对话并非随意之举。界面新闻援引的行业分析认为,此举意在回收闲置会话占用的KV缓存。KV缓存是模型为保留上下文而驻留在GPU显存中的中间数据,对话越长占用越多,长期闲置的会话会一直占着昂贵的HBM显存。把这部分资源腾出来,优先保障活跃用户,是在硬件短期难以扩充时最直接的手段。

更值得关注的是信号意义:此前几次故障DeepSeek都未明确归因,这次直接点名“算力不足”。这让外界开始讨论,面向大众的免费对话服务还能否长期维持。

影响和展望

DeepSeek已经在用多种手段“削峰”:API实行峰谷分时定价,闲时价格为高峰的一半;API侧对flash和v4-pro分别设置2500和500个账号的并发上限,并与C端资源池隔离。11月13日它还开放了联网搜索、文件解析和语音等应用API,并发布可导入聊天记录的开源演示客户端——受影响的用户可以导出历史对话,在客户端里按量付费继续使用。

更长期的解法在供给端。据科技日报10月报道,DeepSeek计划在乌兰察布建设GW级数据中心,部署至少16万颗国产AI芯片,预计2027年底至2028年初逐步投产。在新算力到位之前,限额、分时定价乃至推出付费套餐,都可能成为常态。算力紧张也并非DeepSeek独有,OpenAI、Anthropic等公司同样在通过多年期合同锁定芯片和机房资源。

参考来源

发布者:极致前沿,转转请注明出处:https://www.veryin.com/4704.html

赞 (0)
腾讯混元发布Hy4 flash:224B总参、每token只激活12B,日常办公任务成本降到旗舰版的二十分之一
上一篇 6天前
华为云开源昇腾原生具身世界模型CloudRobo-WM1.2:让机器人先“预想”世界再动手,两项操作基准排名第一
下一篇 6天前

相关推荐

发表回复

登录后才能评论