发生了什么
微软Edge开发博客在11月19日发布文章,作者为Sohum Chatterjee,主题是网页上的“混合智能”:当浏览器里已经有合适的端侧模型时,网站可以先走本地推理,需要覆盖更多设备或调用更强能力时,再切到配置好的云服务。为了让端侧推理覆盖更广,微软当天宣布了三项更新。第一,Aion Instruct作为开源权重模型在Hugging Face上正式提供,并成为Edge内置的小语言模型;第二,为Prompt API开启源试验(origin trial),开发者可以在自己的正式网站上调用这一接口;第三,推出由Aion Instruct驱动的实验性Decisions API,目前在Edge Canary和Dev渠道提供开发者预览。这些更新建立在此前Aion-1.0-Instruct开发者预览的反馈之上。
关键细节和数据
官方把Aion Instruct的参数规模写为23亿(2.3B),并称它比原来的内置模型Phi-4-mini更小、更快,能在更多设备上运行,同时在文本生成、摘要、指令遵循和结构化输出等常见网页任务上保持“相当的质量”。博客没有给出可直接引用的对照分数,因此不宜把它理解成已经公布了全面超越Phi-4-mini的评测表。Edge只会在网站或功能第一次需要时,并且只在被认为能够良好运行该模型的设备上下载Aion Instruct;用户可以在Edge设置里关闭端侧AI,关闭后模型会被移除,并且不再自动下载。微软还写道,该模型将在今年晚些时候进入Windows,为Windows和Copilot+ PC上的端侧体验打基础。
Hugging Face上的模型页`microsoft/Aion-1.0-Instruct-2.3B`由Microsoft Windows应用科学组发布,许可为MIT,上下文窗口写明为32K token,面向摘要、改写和对话等文本任务,并列出英语、德语、西班牙语、葡萄牙语、意大利语、法语、中文和日语。模型卡同时给出了比博客更具体的Windows时间表:一个经过进一步优化、并配有微软内容审核模型的版本,计划在2027年1月底成为Windows操作系统的端侧小模型;眼下这个Hugging Face版本是未量化的先导发布,量化版本将随后提供,目的是增加透明并收集反馈。这些表述与博客中“今年晚些时候进入Windows”并不矛盾,只是模型卡把操作系统级集成的时间点写得更明确。
Prompt API此前只在Edge Canary和Dev渠道作为开发者预览提供。源试验开通后,开发者可以为自己的正式网站注册试验,在更广泛的真实用户环境中测试端侧功能,并向微软反馈接口设计、模型表现以及跨浏览器互通问题。微软把这些反馈视为推动Prompt API走向标准化讨论的一部分。Decisions API则更早、也更实验:它让网站就一段文本提出是否判断、多项选择或打分问题,并一次性返回概率和置信度,过程中不生成文本。官方举例说,它可以用来理解用户意图、对用户生成内容做分类路由,或在客户端实时打分排序。该接口目前仅在Canary和Dev中供原型使用,微软明确提醒,接口和实现都可能随反馈改变。
为什么重要
浏览器一旦内置可被网站调用的小模型,网页功能就不必事事回到云端。对注重时延和隐私的摘要、改写、分类来说,把23亿参数的指令模型和标准化的Prompt API送到正式版Edge,比只在预览频道里演示更接近可落地。微软同时把权重以MIT许可公开,等于让开发者可以在浏览器之外检查和部署同一模型;再用源试验把接口放到真实站点里收集互通经验,则是在为可能的跨浏览器标准做铺垫。混合智能的提法也很实际:端侧并不是要取代云,而是先在能跑的设备上跑起来,跑不了再回云。
影响和展望
这项更新对普通用户的直接影响,取决于访问的网站有没有接入源试验,以及设备是否被判定适合下载模型。官方没有给出最低硬件门槛,也没有公布与Phi-4-mini的逐项基准对比,因此现在还不能判断它在多大范围内会成为默认体验。Windows操作系统级小模型被放在2027年1月底,说明浏览器内置和系统内置并不是同一天完成。Decisions API仍是预览,接口可能调整,不适合被当成已经稳定的生产能力。接下来应关注源试验的站点规模、量化模型何时发布,以及Prompt API能否被其他浏览器以相近的形式跟进;在此之前,更准确的定位是:Edge的端侧小模型完成了一次正式替换,并向网站开放了可在生产流量里试用的接口。
参考来源
- Microsoft Edge博客:Hybrid intelligence on the Web: Introducing Aion Instruct and Prompt API in Microsoft Edge
- Hugging Face:microsoft/Aion-1.0-Instruct-2.3B
- Microsoft Learn:Prompt a built-in language model with the Prompt API
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4824.html