郑纬民:智能体时代,稳定低成本产出Token能力为何如此稀缺

2天前更新 haozi9365
1 0 0

中国工程院院士、清华大学计算机科学与技术系教授郑纬民在Agentic时代AI基础设施创新发展论坛上指出,算力规模的快速扩张,并不等同于高效Token(词元)产能的同步提升。进入智能体时代,真正稀缺的已不只是芯片本身,而是能够稳定、低成本、高质量产出Token的系统能力。

他进一步强调,Token正在从单纯的技术指标,转变为产业链中的核心生产要素,推理系统的演进方向也正由单机优化,转向分布式、缓存化、异构化和服务化的系统级升级。

郑纬民:智能体时代,稳定低成本产出Token能力为何如此稀缺的封面图

相关快讯

智谱AI落地1GW国产算力中心,并完成收购中科加禾

智谱AI已落地1GW级国产AI算力数据中心,全部采用国产AI芯片,并同步完成对中科加禾的收购。此举将算力资源与异构算力软件能力结合,提升芯片利用率、降低推理成本,并加快大模型训练与部署效率。

英伟达被曝大规模收购美国暗光纤资源,潜在带宽达 7.6 Pb/s

报告称,英伟达正加大在美国的长途光纤网络布局,收购大量暗光纤容量,为未来 AI 基础设施做准备。按单根光纤80至96个波长、每通道800Gbps估算,100对光纤理论总带宽可达约7.6Pb/s。随着生成式AI训练和推理规模扩大,跨数据中心高速互联正成为AI工厂建设的关键。

AI这笔账为何算不过来?查诺斯警示:上游订单爆表、下游不计代价

查诺斯警告,当前AI基建热潮的资本投入规模已超过互联网泡沫时期,且市场正为“承诺”而非现实定价。大量资本支出建立在短期现货价格上,却被用于长期资产决策,设备积压、折旧延后、上下游抢单等现象并存,整体商业逻辑尚未被验证。

常州落地首个城市级绿色Token工厂

在WAIC期间,首个城市级绿色词元(Token)工厂在常州签约落地。该项目由市数据局、常州高新区及国家电投电投综能、山铁数科、阿里云、网宿科技、深度动力七方合作,目标是打造完善的算电协同生态。同时,常州高新区还与网宿科技、深度动力签署了运营专项合作协议。

扎克伯格否认Meta算力过剩,称云业务具商业潜力

扎克伯格表示,Meta在AI算力紧缺背景下需要尽可能多的资源,同时也在考虑将部分AI基础设施出租给外部客户,以在高算力价格下创造更大价值。他称Meta发展云业务的机会一直存在,但公司并非算力过剩,目前所有算力都在被充分使用。

荷兰国际集团警告:英伟达利润率受客户自研芯片威胁

荷兰国际集团分析师指出,微软、Alphabet和亚马逊等英伟达大客户正自研定制芯片,以降低AI基础设施成本,这可能削弱英伟达的定价权。尽管英伟达正拓展新业务,但未来维持当前高利润率的难度或将上升。

暂无评论

暂无评论...