小米MiMo首次揭晓模型推理系统全链路优化技术的内幕

3个月前更新 15083662215
18 0 0

小米近日正式发布了MiMo-V2.5系列模型的推理系统全链路优化方案。该团队基于Hybrid SWA、MoE和多模态复合架构,全面重构了推理栈,包括KVCache管理、分级缓存、前缀缓存以及调度策略与Prefill/Decode链路。KVCache存储压缩至同类方案的约1/7,显著降低了长序列场景下的推理成本,这一技术创新成为降价的核心支撑。5月27日,MiMo-V2.5系列API实现永久降价,最高降幅达到99%,且不受输入长度影响。

小米MiMo首次揭晓模型推理系统全链路优化技术的内幕的封面图

相关快讯

小米玄戒芯片迎来新进展,国产自研芯片再进一步

小米于8月23日正式宣布,将于8月24日14点举行玄戒芯片技术沟通会。本次活动采用图文直播形式,方便外界及时了解相关技术动态与最新进展。届时,小米芯片负责人朱丹将出席并进行分享,介绍玄戒芯片目前取得的最新成果,为关注小米芯片研发和技术布局的用户提供更多信息。

AI记忆基础设施企业 MemoraX AI 完成数亿元种子++轮融资

MemoraX AI完成数亿元种子++轮融资,由北洋海棠基金、尚势资本、仁爱资本联合领投,银杏谷资本跟投,老股东继续加码。资金将用于攻关大模型长期记忆底层技术,并推动B端产业与C端交互产品的记忆模块标准化研发及商业化落地。

原字节跳动机器人一号位加入小米,负责基座模型研发

多方信源确认,原字节跳动机器人团队负责人孔涛已于2025年夏天加入小米,现任小米机器人基座模型团队负责人,并带来部分原字节员工。小米机器人事业部目前约200人,内部保密程度较高,基座模型团队也有独立办公地,管理风格较为神秘。

小米申请注册“澎程N70”商标,或有新布局

天眼查知识产权信息显示,小米科技有限责任公司近日申请注册“SKYNOMAD N90 MAX LUXE”“澎程 N70”“SKYNOMAD N90 MAX STUDIO”“SKYNOMAD N70”等商标,涉及健身器材、地毯席垫等国际分类,目前均处于等待实质审查阶段。

小米成功注册“澎程”商标

天眼查知识产权信息显示,小米科技有限责任公司近期申请注册了多枚“SKYNOMAD”“澎程”商标,涵盖运输工具、机械设备、通讯服务等多个国际分类,其中部分商标已获成功注册。

小米正式发布龙甲电池体系

雷军称,小米龙甲电池体系正式推出,标志着小米汽车在动力电池领域形成系统化方案。该体系由小米汽车主导:负责产品定义、电池包设计开发,并参与电芯设计开发,同时对电池全流程实施质量管控。

暂无评论

暂无评论...