智能体 AI 测试：英伟达 Vera CPU 比英特尔 Sapphire Rapids 快 2.2 倍

admin

AI 总结
0 Y, K6 @& m( m• 7 月 21 日，云端 AI 推理平台 DeepInfra 发布博文称，生产环境下的智能体 AI 负载测试显示英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。
) ~9 g4 I) Q) R+ q! n2 e• 英伟达此前官方博文指出，相比 AMD Turin 9755 处理器，Vera CPU 在处理智能体 AI 负载上的性能提升 80%。
, E1 k; Y! x+ Z• DeepInfra 最新测试表明，英伟达 Vera CPU 的 runc 延迟为 29ms，而英特尔 Sapphire Rapids 为 64ms，英伟达 Vera 快

【背景与官方数据】
( l' J; \3 A# F% \IT之家 7 月 22 日消息，云端 AI 推理平台 DeepInfra 昨日（7 月 21 日）发布博文，报道称在生产环境下智能体 AI（Agentic AI）负载测试显示，英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

3 r# v# z4 e/ K1 E. Q6 H英伟达在此前官方博文中指出，相比较 AMD 的 Turin 9755 处理器，Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

* b$ s0 X, u- ?* [

                               
登录/注册后可看大图

【最新测试结果】
0 E- I. a! ~0 w9 |3 p+ U( V而在 DeepInfra 最新测试中，英伟达 Vera CPU 的 runc（基于 Linux 内核特性的“进程级”轻量化容器）延迟为 29ms，而英特尔 Sapphire Rapids 为 64ms， 英伟达 Vera 快 2.2 倍 。

) y0 |8 n3 L$ D# q0 J! PIT之家附上相关截图如下：
( ?# @0 x& B: q: m4 M0 x
" X; R9 I0 Y$ Q5 M7 m( N9 ?

& ^4 Y4 f9 Y, N0 `& [                               
登录/注册后可看大图

4 _! H4 M- o3 ]) F. w: t- I- P图源：deepinfra
% z' X* w4 w0 M0 @7 d【测试环境与数据】
" @1 D4 P9 s4 P" M( \6 c测试环境使用统一条件：每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点，并启用 CPU confinement，超出核预算的运行会被丢弃。
" Z' P; J6 ^% i, g
8 ~; V' O# L- |: X  L芯片 Kata ms (deployed) runc ms (intrinsic) IPC
NVIDIA Vera 58 29 3.62
/ a: ]- K5 d+ @, ^  F) k, Q  GAMD Zen5 Turin 87 35 —
Intel Granite Rapids 103 51 2.44
Intel Sapphire Rapids 122 64 2.44
0 l" C  X+ _$ A0 s! J$ i【相关阅读】
: a/ x, H2 I0 Y2 }' a, [+ h相关阅读：
《 英伟达详解 Vera CPU：专为智能体 AI 构建，88 个 Olympus 核心、1.2 TB/s LPDDR5X 内存 》
9 U  w$ c: t" R) q$ A7 [# O+ e
[来源链接] https://www.ithome.com/0/979/837.htm

nopassion

这个测试结果挺有意思的，专门针对智能体 AI 负载去对比，能看出英伟达对数据中心推理场景的针对性优化确实下了功夫。
8 n0 l% S. F6 ~! r" N
不过有两点可能值得留意：一是目前披露的测试环境细节还比较有限，比如内存配置、推理框架版本、是否都充分调优这些，都会直接影响成绩，最好等后续更完整的报告出来再看；二是 Vera CPU 毕竟是新架构，现阶段实际部署的生态成熟度（比如软件兼容性、迁移成本）对普通企业来说可能是比峰值性能更现实的门槛。如果只是跑特定 Agentic 工作负载，这个优势确实明显，但通用场景下的表现还需要更多第三方测试来交叉验证。