NVIDIA Vera CPU 深度解析：Oracle Cloud 正式 GA，Agentic AI 为什么需要高性能 CPU？

一、AI Agent 让 CPU 重新成为焦点

长期以来，AI 基础设施的讨论主要围绕 GPU 展开。

这是因为大型神经网络训练和推理需要大量并行计算，GPU 在这类工作负载中具有明显优势。

但随着 AI Agent 逐渐从文本生成走向多步骤任务执行，CPU 的作用开始受到更多关注。

2026 年 10 月 27 日，Oracle 和 NVIDIA 宣布扩大 AI 基础设施合作，NVIDIA Vera CPU 与 Vera Rubin NVL72 系统在 Oracle Cloud Infrastructure 上进入正式可用阶段。

10 月 31 日，Tom's Hardware 在周度技术专题中再次分析 Vera CPU 的定位及其对 AI Agent 工作负载的意义。

这一趋势说明，AI 基础设施的性能不再只由模型推理速度决定。

模型调用之间的工具执行、数据检索、任务编排和系统通信，同样会影响用户体验。

二、为什么 AI Agent 需要高性能 CPU？

普通聊天请求的主要计算工作通常集中在模型推理阶段。

但一个复杂 AI Agent 任务可能包含许多非模型操作。

例如，用户要求 Agent 分析一个大型代码仓库并修复错误。

整个任务可能包括：

1. 读取项目文件。
2. 检索相关代码。
3. 调用模型分析问题。
4. 执行终端命令。
5. 修改代码。
6. 运行测试。
7. 读取错误日志。
8. 再次调用模型。

在这个过程中，GPU 主要负责模型计算。

CPU 则承担大量工具执行、数据处理和系统协调工作。

如果 CPU、内存或存储性能不足，即使模型推理非常快，整个任务也可能出现明显延迟。

因此，AI Agent 的性能优化需要考虑完整执行链路。

三、NVIDIA Vera CPU 的定位是什么？

根据 Oracle 官方介绍，NVIDIA Vera 是面向 Agentic AI 和数据密集型工作负载设计的 CPU。

Oracle 在公告中强调，Vera 能够支持模型调用之间的任务执行，包括工具运行、代码测试和数据检索。

NVIDIA 将其定位为适合 AI Agent 工作负载的计算平台组成部分。

Oracle 官方材料还引用了 Vera 在相关 Agentic CPU 性能测试中实现最高约 80% 提升的厂商指标。

但这类数字需要结合测试基准和对比对象理解。

不能将“80% 更快”直接推广为所有 AI Agent 应用都会获得相同提升。

真实系统性能还取决于软件架构、内存访问、存储、网络和任务类型。

四、Vera CPU 与 GPU 如何分工？

可以把 AI Agent 系统理解为一个需要不断协调多个组件的工作流。

组件	主要任务
GPU	神经网络训练与推理
CPU	任务编排、工具执行、程序逻辑
内存	保存运行状态与工作数据
存储	保存文件、数据库和模型资源
网络	连接模型服务、工具与数据系统

例如，一个企业 Agent 需要从数据库中查询资料，然后调用语言模型生成报告。

数据库查询和部分数据预处理主要依赖 CPU、内存和存储。

模型生成则主要依赖 GPU 或其他 AI 加速器。

如果数据库检索耗时过长，模型生成速度再快，也无法消除前面步骤造成的等待。

因此，系统设计应从端到端延迟出发，而不是只关注 GPU 算力。

五、Oracle Cloud 为什么提供独立 Vera CPU 实例？

Oracle 官方宣布，除了提供 NVIDIA Vera Rubin NVL72 等 AI 系统，还将提供基于 Vera CPU 的计算资源。

这意味着客户可以根据任务需求选择不同的基础设施配置。

某些工作负载可能需要大量 GPU 推理能力。

另一些任务则更依赖 CPU 计算、内存带宽或数据处理能力。

例如，大规模数据预处理、数据库操作和 Agent 工具执行，未必需要为每个步骤都配置高端 GPU。

独立 CPU 资源有助于企业更灵活地配置系统。

但最终是否具有成本优势，仍需比较实例价格、实际性能和资源利用率。

六、Vera Rubin NVL72 与 Vera CPU 有什么关系？

Vera Rubin NVL72 是 NVIDIA 面向高性能 AI 计算推出的系统级基础设施。

其目标是支持大型模型训练和推理等计算密集型任务。

Vera CPU 则承担与 CPU 相关的系统计算和数据处理工作。

两者可以协同构建完整的 AI 计算平台。

不过，独立 Vera CPU 实例与完整 Vera Rubin NVL72 系统并不是同一种产品配置。

开发者在采购云资源时，需要根据具体实例规格、加速器配置和价格进行比较。

不能仅凭名称相似就认为它们具有相同的性能或用途。

七、AI Agent 的真正性能瓶颈在哪里？

一个 AI Agent 任务的总耗时，可以近似拆分为：

总耗时 = 模型推理时间 + 工具执行时间 + 数据访问时间 + 网络等待时间 + 其他系统开销。

这是一个用于理解系统性能的简化模型。

假设一个任务需要：

• 模型推理 8 秒。
• 数据库查询 3 秒。
• 文件处理 4 秒。
• 网络通信 2 秒。
• 其他操作 1 秒。

那么整个任务约需 18 秒。

如果只将模型推理时间从 8 秒优化到 4 秒，总耗时仍约为 14 秒。

这说明，单纯优化模型速度并不一定能大幅提升复杂 Agent 的整体效率。

开发者还需要检查工具执行、数据库、缓存和网络等环节。

八、如何测试 Agent 工作负载的 CPU 性能？

传统 CPU 测试通常关注单线程、多线程和特定应用性能。

但 AI Agent 的工作负载可能具有不同特点。

例如，Agent 可能频繁执行短时间程序、启动工具进程、处理大量小文件，并在多个外部服务之间切换。

Tom's Hardware 在 10 月 31 日的技术专题中，也讨论了如何建立更加贴近 Agentic AI 的 CPU 测试方法。

对于开发者，可以重点观察以下指标：

工具执行延迟

测量 Agent 调用本地工具后，到工具返回结果之间的时间。

文件处理速度

测试代码搜索、文件扫描和日志分析等任务。

数据库查询性能

测量不同数据规模下的查询耗时。

并发任务吞吐量

观察多个 Agent 同时运行时，CPU 和内存资源是否成为瓶颈。

端到端任务完成时间

这是最接近真实用户体验的指标。

因为单项硬件测试领先，并不一定意味着整个 Agent 系统性能领先。

九、对 AI API 服务平台有什么影响？

对于 API 聚合平台，AI Agent 的发展可能改变基础设施优化重点。

传统 API 转发服务主要关注 HTTP 请求处理、网络延迟、连接数和上游模型响应。

但如果平台开始提供任务编排、工具执行和多步骤 Agent 功能，就可能增加 CPU、内存和存储负载。

例如，一个平台同时运行大量 Agent 任务。

每个任务都需要调用工具、解析结果、保存状态并执行重试。

此时，即使上游模型计算完全由其他供应商承担，本地服务器仍然可能因为任务调度和工具执行而出现资源瓶颈。

因此，平台应分别监控 API 网关、任务队列、工具执行器和数据库的性能。

十、部署 AI Agent 时如何选择硬件？

硬件选择应根据实际任务确定。

如果主要运行大型语言模型推理，GPU 或专用 AI 加速器通常是关键资源。

如果主要负责 API 转发和简单任务编排，普通服务器 CPU 可能已经足够。

如果需要同时运行大量工具、执行代码或处理数据，则应重点关注 CPU 性能、内存容量和存储 I/O。

对于复杂系统，可以采用分层架构。

例如：

API 网关负责接收请求。

任务调度器负责管理执行状态。

工具执行节点负责运行代码和处理数据。

模型服务负责推理。

这种分离方式有助于根据实际负载分别扩容。

十一、常见问题 FAQ

AI Agent 为什么需要 CPU？

因为 Agent 除了调用模型，还需要执行程序、检索数据、处理文件和协调多个工具。

NVIDIA Vera CPU 已经正式提供了吗？

Oracle 于 2026 年 10 月 27 日宣布相关 Vera CPU 云计算资源进入 GA 阶段，具体可用区域和实例应以 Oracle Cloud 控制台为准。

Vera CPU 能代替 GPU 运行大型 AI 模型吗？

CPU 可以承担部分模型计算，但不能简单认为它能够在性能和成本上替代用于大型模型推理的 GPU。

AI Agent 一定需要高端服务器吗？

不一定。简单工具调用和 API 编排可以在普通服务器上运行，实际需求取决于并发量和任务复杂度。

如何判断 CPU 是否成为瓶颈？

应结合 CPU 利用率、工具执行延迟、内存使用量和端到端任务时间进行分析。

十二、总结

NVIDIA Vera CPU 与 Oracle Cloud 的合作，反映出 AI 基础设施正在从单纯追求 GPU 推理性能，转向更加重视完整 Agent 工作负载。

对于复杂 AI Agent，模型推理只是任务执行的一部分。

工具调用、数据库查询、文件处理和系统调度同样会影响效率。

未来 AI 基础设施的竞争，将越来越关注 CPU、GPU、内存、网络和软件系统之间的协同能力。

对于开发者和 API 平台，最值得实践的方法是测量真实任务的端到端性能，再根据瓶颈选择硬件和架构，而不是只依据单项芯片宣传指标进行采购。

---

官方与媒体参考来源

Oracle — Announcing General Availability of OCI Compute with NVIDIA Vera CPUs https://blogs.oracle.com/cloud-infrastructure/nvidia-vera-cpus-oci

Oracle — NVIDIA Vera Rubin NVL72 and Vera CPUs on OCI https://blogs.oracle.com/cloud-infrastructure/nvidia-vera-rubin-vera-cpus-oci

Tom's Hardware — This week in Tom's Hardware Premium: October 31, 2026 https://www.tomshardware.com/tech-industry/this-week-in-toms-hardware-premium-october-31-2026-vera-cpus-available-on-oracle-clusters-building-an-agentic-cpu-benchmark-and-a-primer-to-llms

编辑说明： Vera CPU 的正式产品公告日期为 10 月 27 日。本文是结合 10 月 31 日技术媒体分析整理的专题文章，并非将其描述为 10 月 31 日新发布的硬件。