蚂蚁百灵开源轻量级混合推理MoE模型 Ling-3.0-tiny

2个月前更新 projext
8 0 0

今日,蚂蚁百灵大模型正式开源轻量级混合推理 MoE 模型 Ling-3.0-tiny。该模型主打高效推理与智能体应用,核心设计围绕轻量化部署和多步思考能力展开,进一步强化了小模型在复杂任务中的实用性。

在架构层面,Ling-3.0-tiny采用月之暗面自研的 KDA(Kimi 增量注意力)与 DeepSeek 自研的 MLA(多头潜在注意力)以 3:1 比例交替堆叠,并引入由 128 个路由专家组成的稀疏 MoE 前馈网络,形成一套高效的混合线性架构。

在能力表现上,Ling-3.0-tiny兼顾快速响应与多步推理需求,可通过 `enable_thinking` 参数在单次请求中灵活开启或关闭思考模式,从而根据不同场景切换推理深度与响应速度。

蚂蚁百灵开源轻量级混合推理MoE模型 Ling-3.0-tiny的封面图

相关快讯

中国信通院牵头,大模型平台系列行业标准正式发布

工信部近日发布2026年第18号公告,正式批准由中国信通院牵头制定的大模型平台系列行业标准,覆盖数据处理、模型训练、推理、计算资源调度与运维等核心环节。其中4项将于2026年11月1日实施,填补了国内大模型平台系统性标准空白。

**亚马逊AWS押注政府AI市场** 亚马逊AWS重押政府AI赛道:OpenAI、Meta、Anthropic等大模型集体登陆GovCloud

**Drafting concise AWS GovCloudAI summary** 亚马逊云服务AWS宣布扩大GovCloud AI模型可用范围,美国政府机构可通过Amazon Bedrock使用Anthropic、OpenAI、Meta及自家Nova等大模型。AWS GovCloud面向政府监管、安全和外部隔离需求,服务政府客户、国防工业及技术合作伙伴,AWS业务也持续强劲增长。

**腾讯混元 Hy4 调用激增应急扩容** 腾讯混元 Hy4 preview 调用激增,WorkBuddy 紧急扩容应对

**Planning concise Chinese summary** 腾讯混元表示,Hy4 preview于2026年8月28日在WorkBuddy首发接入后,因Agent能力提升受欢迎,首日任务队列即出现排队。公司已对推理集群紧急扩容并持续调配资源,但受高端算力和高峰并发影响,仍可能在个别时段排队。

国家数据局:词元市场需求爆发式增长

2026中国国际大数据产业博览会在贵阳举行。国家数据局表示,大模型正加速落地千行百业,推动词元调用量快速增长,市场需求爆发式上升。词元作为AI理解世界的最小单元,正成为计量、定价、交易和结算的重要标尺,产业链已聚集算力、模型、数据和技术服务等多元主体,并形成多种“词元工厂”形态。

**调整标题为更简洁有力版本** 我国日均词元调用量突破500万亿,中国大模型稳居全球第一梯队

**Drafting concise Chinese summary** 随着人工智能应用加速落地,截至今年6月,我国日均词元调用量已突破500万亿。词元规模快速增长,反映出全球大模型竞争已进入白热化阶段,迭代速度加快,算力需求爆发式上升。当前中国大模型已跻身全球第一梯队。

智谱认领神秘AI模型Ox Alpha:使用量已超DeepSeek两倍

智谱周三证实,Ox Alpha是GLM系列模型的新一代版本,并计划于当晚公开发布模型权重,供开发者基于其参数开发产品。目前Ox Alpha仍可免费使用,已登顶OpenRouter AI模型排行榜,使用量超过DeepSeek两倍,显示出较强的市场热度和影响力。

暂无评论

暂无评论...