发生了什么
11月2日,美团龙猫(LongCat)团队发布了新一代模型LongCat-2.5;一周后的11月9日,美团宣布把它完整开源,权重已上架Hugging Face。模型采用MIT协议,企业可以直接拿去做商用推理部署和二次训练,不需要额外申请授权。
LongCat-2.5的定位很明确:做“长程智能体任务”。也就是让模型连续数小时甚至更久地在真实工程环境里干活,比如开发复杂代码库、从零搭建完整项目、根据视觉稿写前端界面,或者处理专业办公文档。
关键细节和数据
规模上,LongCat-2.5是一款混合专家(MoE)模型,总参数1.6万亿,每个token实际激活约480亿参数,上下文窗口达到一百万token。它在LongCat-2.0的基础上加入了视觉理解,是一款原生多模态模型。
所谓“原生”,体现在视觉信号的处理方式上。美团没有外挂一个独立的视觉编码器,而是把原生分辨率的视觉特征做残差向量量化,变成多层级的离散token,和文本token一起交给同一个主干网络处理。视觉码本与主干联合训练,视觉和文本共享同一套参数和语义空间。官方称,这让模型在“看图写代码”(Visual Coding)、创意设计和3D任务上表现更好;视觉token还能离线预计算并缓存,减少在线计算量。
训练方法上,模型卡提到三点:一是长程智能体强化学习,训练数据混合了真实工程任务和可复现的智能体失败案例,并加入防止“奖励投机”的保护措施;二是多教师学习,用分别擅长智能体、推理和交互的教师模型做全词表KL蒸馏;三是长序列训练优化,在报告的长序列SFT任务里,单卡吞吐比DDP基线高86%。
从美团公布的成绩看,LongCat-2.5在BrowseComp上得分91.9,在Terminal Bench v2.1上为88.4,PaperBench为82.1,MCP Atlas为83.1,相比上一代LongCat-2.0提升明显。需要注意的是,模型卡标注未加星号的分数为团队内部测得,仅供参考。
为什么值得关注
这次开源最值得关注的是它对国产算力的适配。LongCat-2.5对专家权重和激活同时做了4比特量化(W4A4),可以直接调用国产AI加速器上的原生INT4矩阵乘法单元。美团称,与W8A8的MoE基线相比,在线压测中预填充吞吐提升43.3%、解码吞吐提升42.77%,首token延迟降低15.91%;再叠加KV缓存量化后,解码吞吐比W8A8KV16方案高92%。官方部署指南目前给出的是NPU平台方案。
对于显存和带宽相对受限的国产芯片来说,万亿级模型能否跑得动、跑得省,往往比榜单分数更关键。美团把架构设计、芯片适配和部署策略放在一起协同优化,相当于给“国产卡跑超大模型”提供了一份可以直接参考的工程样本。
影响和展望
MIT协议是开源许可里限制最少的一类,这意味着LongCat-2.5可以被大量企业直接集成到自己的智能体产品中。在国内开源大模型竞争日趋激烈的当下,美团选择以“长程智能体+原生多模态+国产算力友好”为卖点,瞄准的是正在快速增长的AI编程与自动化办公需求。
不过,万亿参数模型的私有化部署门槛依然不低,实际效果还需要社区在真实任务中检验。对开发者来说,也可以先通过美团提供的API平台和官网对话体验,再决定是否自行部署。
参考来源
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4501.html