当前位置:首页 > 热点 > OpenAI研发高效推理方案:模型运行成本降低50% 正文

OpenAI研发高效推理方案:模型运行成本降低50%

来源:星锐云联资讯网   作者:综合   时间:2026-07-17 17:41:44

快科技7月1日讯据The 研发运行Information报道,多位知情人士透露,高效OpenAI工程师团队本月早些时候宣布,推理通过部署多项自主研发的模型底层优化技术,成功构建出一套高效的成本推理解决方案,预计可将模型运行成本削减超过50%。降低

这一技术突破在面向无免费或付费账户的研发运行公共访客场景(ChatGPT)中得到了验证。数据显示,高效应用该技术后,推理支撑系统运行所需的模型英伟达GPU数量被压缩至仅数百个级别,算力资源利用率实现显著跃升。成本

此前行业传闻,降低OpenAI正与博通(Broadcom)联合开发代号“墨西哥胡椒”(Jalapeño)的研发运行专用集成电路(ASIC)芯片。该芯片专为大语言模型推理场景从零开始设计,高效旨在彻底摆脱对通用GPU架构的推理依赖。这种硬件层面的根本性重构,有望将推理成本直接降低一半,带来远超传统迭代的技术红利。

随着头部AI企业逐步掌握自主算力源头,对英伟达GPU的依赖度将持续下降。这不仅打破了通用硬件产能与定价权的制约,更标志着AI产业生态的话语权正在发生深刻转移。

标签:

责任编辑:焦点