OpenAI 这次“砍”了个寂寞,究竟发生了什么

4个月前更新 laddes
7 0 0

我先按新闻快讯口径重写,保持原意和信息量不缩水,并按段落拆开,方便移动端阅读。The Information 近日抛出一篇颇具冲击力的报道,标题直指一个核心结论:OpenAI 工程师已经找到办法,把推理成本直接削减了一半以上。读完全文会发现,真正的重点并不在“换了什么新硬件”,而在于团队用软件优化把现有资源的效率大幅拉高了。

据报道,OpenAI 工程团队这个月向内部同事透露,推理成本已经下降超过 50%。这次降本并没有依赖新芯片,也不是靠架构层面的重大重构,而是通过纯软件层面的调整,把现有服务器的利用率进一步榨干,最大化释放算力产能。

更值得关注的是,这项优化首先落地在 ChatGPT 未登录用户的流量场景上。也就是说,面对这部分庞大的访问需求,OpenAI 现在只需要几百个 NVIDIA GPU 就能支撑运转,规模之小相当惊人。

要知道,ChatGPT 的日活用户以数亿计,未登录访客本身也是一股不容忽视的流量。放在过去,这类请求往往意味着要准备相当可观的算力储备来兜底;而现在,经过优化后,几百个 GPU 就能完成这部分服务,降本效果可见一斑。

OpenAI 这次“砍”了个寂寞,究竟发生了什么的封面图

相关快讯

欧盟加强监管ChatGPT等3家美国服务平台

欧盟委员会8月31日依据《数字服务法》,将ChatGPT认定为“超大型在线搜索引擎”,并将Reddit和Roblox认定为“超大型在线平台”。三家美国平台因此将面临欧盟更严格的监管要求。

微软Outlook和OpenAI ChatGPT Work突发用户宕机

周一,长期合作伙伴OpenAI与微软均出现关键产品宕机,但目前未证实两者有关。OpenAI称其企业级AI代理ChatGPT Work出现约3小时高错误率和延迟;微软则表示Exchange Online服务异常。Downdetector显示,OpenAI与Outlook相关故障报告当日均一度飙升。

**优化欧盟数字服务法监管新动态标题** 欧盟扩大《数字服务法》监管范围:ChatGPT、Reddit、Roblox在列

**Summarizing EC DSA designation announcement** 欧盟委员会8月31日依据《数字服务法》正式将ChatGPT、Reddit和Roblox列为监管对象:ChatGPT被认定为超大型在线搜索引擎,Reddit和Roblox被认定为超大型在线平台。欧委会称,ChatGPT具备与用户交互并执行网络检索的能力,属混合型服务,此前三者已受一般义务约束。

OpenAI将终止向Cursor提供模型服务,马斯克发声回应

据外媒报道,OpenAI宣布将于2026年11月12日停止向SpaceX旗下AI编程平台Cursor提供模型服务,理由是基于过往经验,担心马斯克旗下公司违反服务条款。马斯克回应称不在意,并再次指责OpenAI高层不可信。双方此前因OpenAI使命和控制权问题长期交锋,矛盾持续升级。

软银寻求100亿美元贷款,为OpenAI投资债务再融资

据报道,软银集团正筹备一笔100亿美元、期限两年的贷款,用于为投资美国人工智能公司OpenAI形成的债务再融资。贷款利率预计为SOFR加275个基点,由瑞穗银行担任牵头行和簿记行。部分资金或用于偿还今年早些时候取得、将于8月31日到期的400亿美元过桥贷款。软银预计到10月对OpenAI的投资将接近650亿美元。

OpenAI数据中心负责人Chris Malone离职

据知情人士透露,负责OpenAI数据中心建设的高管Chris Malone上周离职,公司已确认其不再任职,但未说明原因,也未公布接任者。OpenAI表示,今年已重组基础设施团队,现有数据中心团队具备执行计划的能力。

暂无评论

暂无评论...