英伟达承认多年堆核代价,Vera 瞄准 Agentic AI

据报道,英伟达 Vera CPU 团队在近期访谈中罕见承认,过去多年云端基础设施为追求核心数量,牺牲了单线程性能与 IPC,而 Agentic AI 的爆发,正在迫使这一趋势发生逆转。这一表态,直接点出传统数据中心 CPU 架构和智能体 AI 新需求之间的底层矛盾,也解释了英伟达推出 Vera CPU 的底层逻辑。

回顾过去十余年云服务器 CPU 的发展路径,早期数据中心 CPU 设计思路偏向高主频、少核心,单线程性能突出,但整体并行吞吐能力有限。随着云厂商大规模建设数据中心,算力需求转向海量并发任务,行业设计思路发生明显转向。芯片厂商大量采用多芯粒 Chiplet 方案,在单颗处理器里塞入更多计算核心,依靠多核堆叠提升总吞吐量,以此满足大规模云业务的并行计算需求。

但这种堆核路线存在明显代价。Vera 团队在访谈中提到,Chiplet 多芯粒架构下,芯片内部空间被大量核心占用,没有充足的晶体管资源去优化单个核心,直接造成单线程性能、IPC(每时钟周期可执行指令数)长期停滞不前。传统云业务以大量独立并行任务为主,单核性能短板不容易暴露。但 Agentic AI 也就是智能体 AI 的兴起,彻底改变算力负载特征,旧架构的缺陷被快速放大。

Agentic AI 的工作流程和大模型单纯推理不一样。智能体在运行过程中,会持续循环完成一系列串行任务:调用外部工具、执行代码、读取处理数据、校验返回结果,每一步必须等待上一步执行完毕,才能继续调用 GPU 运行大模型推理。整个任务链路的瓶颈,不再是一次性大规模并行计算,而是串行环节的延迟。一旦 CPU 单线程速度不足,智能体的工具调用、代码执行环节就会拖慢整体流程,昂贵的 GPU 只能闲置等待,造成算力资源浪费,拉高 AI 工厂整体运营成本。

这种场景下,单纯依靠更多核心无法解决串行延迟问题,CPU 必须同时兼顾多核并发能力与强悍的单线程性能。英伟达 Vera CPU 就此采用差异化架构,放弃 Chiplet 多芯粒方案,把全部 88 颗 Olympus 计算核心、176 线程集成在单一计算裸片上。单晶粒设计消除芯粒之间的数据传输开销,大幅降低核心之间通信延迟。其搭载的 Olympus 核心,IPC 相比上代 Grace 提升 50%,官方测试数据显示,Vera 单核性能最高可达 AMD EPYC Venice 的 1.5 倍,在智能体编排任务中相比传统 x86 处理器有明显优势。

Vera CPU 定位并非用来替代运行大模型的 GPU,而是承担 AI 工厂里的编排调度工作。GPU 负责大模型推理,Vera 处理智能体所有前置、后置串行任务,保障智能体循环高速流转。英伟达基于大量智能体会话统计发现,绝大多数智能体任务的执行路径都具备独特性,负载波动大,很难用传统 CPU 架构做资源适配。处理器既要能应对任务爆发时的大规模并行分支,也要保证关键串行链路的低延迟。

行业过去长期陷入取舍困境:要么堆多核换取高吞吐,牺牲单核性能;要么强化单核,减少核心数量、降低并发上限。Agentic AI 的普及,要求芯片打破这种二元对立。Vera 的设计思路,就是在单颗芯片上同时实现高单线程性能与足够多核规模,适配智能体独有的混合负载。

当前 OpenAI、Anthropic、字节跳动、Meta 等企业都在布局 Agentic AI 落地,云基础设施的 CPU 选型标准随之改变。过去云厂商采购服务器优先看核心数量,未来评估指标会增加单核性能、IPC、任务串行延迟等维度。这意味着数据中心 CPU 行业持续多年的堆核竞赛迎来拐点,芯片设计重心重新回归单核心算力优化。

不过架构转向也会带来新的权衡。单晶粒设计会增加芯片制造难度,良率控制、成本控制相比 Chiplet 方案挑战更大。但在智能体 AI 的业务需求驱动下,算力基础设施的底层逻辑正在重塑,CPU 不再只追求简单的核心数量,单线程性能将成为新一代 AI 数据中心不可忽视的核心指标。