Agent正在反过来改变大模型的底层架构。

9月24日,小米MiMo负责人罗福莉公布面向MiMo V3的核心架构HySparse2,明确瞄准下一代长上下文Agent。

与普通聊天不同,Agent在完成一项复杂任务时,需要反复搜索网页、读取文件、调用工具,再根据返回结果继续下一步。

一条简单的工具调用可能带回来一整份文档或大量执行日志;随着任务不断推进,模型还要保留此前的操作记录,并从越来越长的历史信息中找到下一步真正需要的内容。

这也意味着,过去主要面向聊天场景设计的大模型架构,开始需要适应新的工作负载。

HySparse2的思路是减少模型反复“读材料”的计算量,同时压低保存历史信息所需要的缓存。

在80B-A3B MoE模型、100万Token上下文的测试中,相比MiMo-V2.6使用的Hybrid SWA架构,HySparse2的长文本预填充计算量降至约1/5,KV Cache则从约12GB降至2.7GB。

这一变化背后是今年以来Agent的工作量正在快速增多。

办公是最典型的场景之一。今年以来,腾讯WorkBuddy、百度搭子、阿里千问办公等产品陆续把Agent带入桌面,能力也从回答问题进一步延伸到读取本地文件、处理表格、制作文档以及跨软件执行任务。

当Agent从“聊几句话”变成连续工作几十分钟甚至更久,模型面对的不再只是一段用户问题,而可能是一份数十页的报告、多个网页、会议记录、代码以及一长串工具调用历史。谁能用更低成本保存和读取这些上下文,也开始直接影响Agent的响应速度和使用成本。

小米自己也已经开始试水这一方向。

今年3月,小米启动Xiaomi miclaw封测,这是基于MiMo大模型构建的Agent测试产品,最初尝试让Agent直接调用手机应用、系统能力及米家设备;4月,小米进一步将miclaw扩展到PC和Mac,支持文档整理、数据分析和批量文件处理等桌面任务,并尝试手机、电脑和IoT设备之间的跨端协作。

不过,miclaw已经在9月21日结束近半年的封测。与此同时,小米在HyperOS 4中计划上线超级小爱专家模式,将复杂任务规划、跨应用操作和“人车家”生态联动进一步放入系统级入口。

从产品变化来看,小米的Agent探索正在从一个独立测试产品,进一步向操作系统和“人车家”生态内部延伸。

HySparse2透露的则是另一层变化:在应用层寻找Agent入口的同时,小米已经开始按照Agent真正工作的方式,重新设计下一代MiMo模型。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。