NVIDIA Vera CPU 正在向竞争对手发起“重拳出击”

向代理 AI 的转变为 AI 工厂提出了新的 CPU 要求：快速内核、海量内存带宽以及在所有内核都处于活动状态时维持高性能的能力。

Phoronix 今天发布的初步基准测试结果表明 NVIDIA Vera CPU 满足了这一需求。对于首次公开展示，基准测试范围集中在现代数据中心设计的代理工作负载 Vera 上。

Vera CPU 提供人工智能工厂所需的吞吐量，同时优化平台功能。 88 个 NVIDIA 定制 Olympus 核心、1.2TB/s 内存带宽和高速片上结构使 CPU 平台将核心性能和内存带宽结合在高效的功率范围内。

NVIDIA Olympus 提供强劲性能

Vera 的核心是定制的 NVIDIA Olympus CPU 内核。 Olympus 与 Armv9.2 指令集架构完全兼容，专为支持代理 AI 的顺序 CPU 工作而设计：分支密集型运行时、沙盒代码、数据处理和编排。

Vera 的单片芯片、宽核心、高级分支预测和第二代 NVIDIA 可扩展一致性结构帮助 Vera 保持数据在所有 88 个核心之间移动。

Phoronix 对单插槽 Vera CPU 的测试（额定热设计功率为 450 瓦，内存功率低于 30 瓦）表明，它在该功率范围内提供了出色的性能，并在代码编译、文件压缩、视频转码、Python、Java 和数据库管理等广泛的工作负载中实现了世代提升。

这些是代理和人工智能工厂每天运行的 CPU 密集型任务：编译代码、执行运行时、压缩数据、查询数据库和协调大型软件堆栈。

Phoronix 创始人兼主要作者 Michael Larabel 写道：“说到这里，我真的不知道对配备新奥林巴斯核心的 NVIDIA Vera 有何期待。” “但最终我意识到，这是迄今为止英特尔和 AMD x86_64 处理器面临的最激烈的竞争。”

内存性能的“令人难以置信的优势”

代理工作负载不仅仅受到核心数量的限制。它们需要高核心利用率和持续的内存带宽，使每瓦内存性能成为整体 CPU 效率的关键部分。

Vera 集成了第二代 LPDDR5X 内存子系统，与 DDR5 相比，每位能耗显着降低。这使得 Vera 能够提供高达 1.2 TB/s 的带宽，与传统 CPU 相比，峰值内存带宽高达 2 倍，而内存功率则低于 30 瓦，而传统 DDR5 的内存功率超过 100 瓦。

在 Phoronix STREAM TRIAD 测试中，Vera 维持了 90% 的峰值内存带宽 — 达到了 Phoronix 测试的所有 CPU 中额定峰值带宽的最高百分比 — 并且每个核心的内存带宽是传统 x86 CPU 的 4 倍以上。

“与当前的英特尔至强和 AMD EPYC 处理器相比，NVIDIA Vera 及其 LPDDR5X 内存在内存性能方面表现出了令人难以置信的优势，”Larabel 写道。

然而，峰值带宽只是故事的一部分。人工智能工厂工作负载同时运行许多沙箱、工具调用和数据服务。在与 Vera 的单独测试中，Prime Intellect 发现，随着更多工作负载并行运行，Vera 保持了高带宽和低、一致的内存延迟——这是代理 AI 所需的可预测性能。

Phoronix 测试的重大代际飞跃和领导地位

与上一代 NVIDIA Grace CPU 相比，Vera 在 Phoronix 的测试中实现了 1.6 倍的几何平均提升，这是令人难以置信的一代又一代的增益。

“从 Grace 到 Vera 的差异始终超出了我对处理器通常看到的一代一代性能的预期，”Larabel 写道。 “NVIDIA 的 Vera CPU 及其内部设计的 Olympus CPU 内核最终为 Intel/AMD x86_64 CPU 带来了强大的竞争力，这是我在任何其他 ARM 或非 x86_64 处理器中从未见过的。”

Vera 在测试的 CPU 领域处于领先地位，与最新一代 128 核 x86 处理器相比，整体性能优势高出 1.5 倍。收益体现在实际的开发人员工作负载中。单路 Vera 仅用了 20 秒就编译了默认的 Linux 内核，这是 Phoronix 在该测试中测得的最快结果。与 128 核处理器相比，Vera 的 Linux 内核编译速度比 128 核处理器快 2 倍。

“在[几何]平均基础上，NVIDIA Vera 的性能比 AMD EPYC 9575F 5.0 GHz 高频处理器高出 10%，”Larabel 写道。

Vera 正在进行客户测试，合作伙伴即将推出

在 NVIDIA GTC 上，NVIDIA 宣布为 Vera 提供广泛的生态系统支持，涵盖 AI 原生、超级计算中心、云服务提供商和基础设施提供商。

NVIDIA 还向领先的人工智能公司和云提供商交付了首批 Vera CPU，这标志着 Vera 在今年下半年向合作伙伴提供的过程中的一个重要里程碑。

Vera 将从双路和单路系统的合作伙伴处提供，具有风冷和液冷选项，以支持 AI 工厂部署，从标准企业数据中心到高密度代理 AI 基础设施。

了解有关 NVIDIA Vera 的更多信息。

来源：Blogs