郑纬民:智能体时代,稳定低成本产出Token能力为何如此稀缺

2个月前更新 haozi9365
5 0 0

中国工程院院士、清华大学计算机科学与技术系教授郑纬民在Agentic时代AI基础设施创新发展论坛上指出,算力规模的快速扩张,并不等同于高效Token(词元)产能的同步提升。进入智能体时代,真正稀缺的已不只是芯片本身,而是能够稳定、低成本、高质量产出Token的系统能力。

他进一步强调,Token正在从单纯的技术指标,转变为产业链中的核心生产要素,推理系统的演进方向也正由单机优化,转向分布式、缓存化、异构化和服务化的系统级升级。

郑纬民:智能体时代,稳定低成本产出Token能力为何如此稀缺的封面图

相关快讯

“博伦智汇”完成千万级天使轮融资

异构智算平台与梯度Token工厂技术服务商博伦智汇近日完成千万级天使轮融资,投后估值约1.5亿元。该轮融资由聚焦AI及AI Infra赛道的一线产业基金投资,资金将用于异构智算核心技术迭代、算力基础设施产品打磨,以及核心技术团队扩充。

理想汽车被曝或自研云端推理芯片,智能驾驶算力再升级?

有消息称理想汽车正探索自研云端推理芯片,项目仍处早期,或采用与车端智驾芯片相近的数据流架构。理想方面回应称“暂时还没有听到这方面的消息”。业内认为,随着智能驾驶大模型、车载智能体和多模态交互发展,云端推理需求将持续增长,车企竞争或将延伸至云端AI基础设施能力。

鸿海第四季度将开始出货英伟达Vera Rubin平台

鸿海表示,英伟达新一代 Vera Rubin AI 平台将于今年第四季度开始出货。英伟达此前已宣布该平台进入全面量产阶段。与上一代 Grace Blackwell 相比,Vera Rubin 在大规模 AI Agent 工作负载下的吞吐量最高可提升 10 倍,显示其在算力与效率上的明显升级。

IBM与Together AI签署2.4亿美元云服务协议

IBM与Together AI近日签署一项为期多年的合作协议,总金额达2.4亿美元。根据协议,双方将在IBM […]

CoreWeave完成26亿美元AI基础设施贷款融资

CoreWeave于8月10日完成26亿美元延期提款定期贷款融资,期限约五年,用于支持AI云平台持续扩张及已承诺的客户部署项目。相关资金将主要用于采购和部署面向客户合同的高性能计算(HPC)基础设施。

澳大利亚AI基础设施公司Firmus完成20亿美元融资,英伟达、黑石等参投

8月7日,澳大利亚AI基础设施公司Firmus宣布完成20亿美元战略股权融资,英伟达、Coatue、黑石旗下基金及其他投资工具、Jane Street等参与投资。资金将用于加速其在澳大利亚的“Southgate AI Factory”布局,并为拓展亚太其他市场做准备。

暂无评论

暂无评论...