Perplexity宣布将使用英伟达新款CPU 全新设计更符合AI代理需求
财联社7月8日讯(编辑 马兰) 人工智能搜索巨头Perplexity周二正式宣布,宣布新款新设需求将全面采用英伟达最新推出的将使计更CPU芯片。这一战略举措不仅标志着Perplexity在基础设施层面的用英重大升级,更将助力英伟达打破由英特尔和AMD长期垄断的伟达传统CPU市场格局,加速其在通用计算领域的符合渗透。
此前,代理英伟达曾披露乐观预期,宣布新款新设需求预计其通用型Vera CPU在本财年末的将使计更销售额有望突破200亿美元大关。
战略意义:从GPU霸主到全栈算力提供商
相较于备受瞩目的用英GPU产品,Vera CPU的伟达推出对英伟达而言具有更深远的战略意义。随着OpenAI等顶级AI实验室纷纷投身于自研芯片领域,符合英伟达面临着来自核心客户的代理竞争压力。拓展硬件产品线,宣布新款新设需求特别是将使计更补齐CPU短板,已成为英伟达维持生态主导地位的用英关键一步。
Vera处理器的核心优势在于其“原生AI代理”设计理念。与从笔记本电脑时代沿用至今、难以完美适配AI代理高频循环运算的英特尔和AMD传统CPU不同,Vera是专为AI代理时代从零构建的。AI代理作为一种自主程序,能够不间断地编写代码、执行任务并协调复杂工作流,对算力的持续性和响应速度提出了极高要求。
实测性能:编码效率提升50%
Perplexity负责计算机企业和基础设施的副总裁Nate Kupp指出,在人工智能代理编码任务中,英伟达CPU的执行速度比传统CPU快约1.5倍,且与Perplexity的核心架构实现了完美契合。
尽管Perplexity未透露具体的采购数量,但英伟达此前确认,OpenAI、Anthropic以及Oracle等科技巨头均已计划部署其CPU产品。
技术解析:Vera如何破解AI训练与部署痛点
英伟达在最新博客文章中深入剖析了传统CPU在AI工作负载中的三大瓶颈,并阐述了Vera架构的针对性解决方案:
- 强化学习效率瓶颈
- 问题:CPU端执行速度慢导致强化学习每个周期的有效评估减少,进而延长训练时间,增加单用户服务延迟,并引发KV缓存丢失,推高算力成本。
Vera方案:Vera CPU核心速度提升1.8倍,能在相同时间窗口内完成高达85%的评估任务。这不仅提供了更丰富的强化学习反馈信号,提升了训练数据质量,还显著缩短了整体训练周期。
延迟与吞吐量平衡
- 问题:传统架构往往侧重吞吐量,难以满足AI代理对严格且可预测延迟的需求。
Vera方案:Vera将优化指标从单纯的吞吐量转向严格的延迟控制。在确保CPU延迟稳定的前提下,大幅缩短单用户服务时间,使得同等数量的GPU能够并发服务更多客户,提升资源利用率。
KV缓存命中率优化
- 问题:GPU与CPU之间巨大的计算步骤间隔,导致KV缓存频繁被新请求刷新,增加驱逐压力,迫使系统通过重新计算来弥补数据丢失,造成算力浪费。
- Vera方案:通过压缩CPU端处理流程,Vera有效减少了等待时间,缩小了KV缓存面临驱逐压力的时间窗口。这一改进保留了更多缓存数据,显著降低了因重新计算导致的算力损耗。
(财联社 马兰)






