NVIDIA Nemotron Retriever 3.5 与 Kumo 深度解析：Embedding、Rerank、文档解析、企业 RAG 与结构化数据预测

一、NVIDIA 扩展开放模型生态：不只是再推出一个聊天模型

2026 年 10 月 21 日，NVIDIA 在 GTC Berlin 期间公布了多项开放模型和开发工具更新。

本次发布覆盖语言模型、企业知识检索、结构化数据预测、机器人、自动驾驶、生物学和量子计算。

对于企业 AI Agent 开发者来说，最值得关注的并不一定是参数最大的语言模型。

而是 Nemotron Retriever 与 Kumo 两个新方向。

Nemotron Retriever 主要解决如何从文档、图片、图表和技术资料中找到正确证据的问题。

Kumo 则主要面向企业数据库和时间序列，希望利用结构化数据进行预测和异常检测。

这两类能力都可以与大语言模型协作。

例如，用户向企业 Agent 询问某个供应链风险。

Retriever 可以查找相关合同、图表和报告。

Kumo 可以基于历史订单与库存数据预测潜在结果。

语言模型最后再将检索结果与预测数据组织为易于理解的解释。

这种组合表明，企业 Agent 正在从单一语言生成，发展为由多个专业模型共同工作的系统。

二、Nemotron Retriever 与 Kumo 有什么区别？

从功能上看，Retriever 偏向寻找证据。

Kumo 更偏向利用结构化数据进行预测。

二者可以互补，但不能互相替代。

例如，Embedding 模型能够找到类似的客户支持文档，却不一定适合直接预测客户流失概率。

Kumo 可以根据数据进行风险评分，但不能自动完成所有开放网页检索任务。

三、为什么 RAG 对企业 Agent 很重要？

RAG 的完整名称是 Retrieval-Augmented Generation，即检索增强生成。

它通常先从外部知识库查找相关资料，再将结果提供给语言模型生成回答。

这有助于让回答基于企业实际文件，而不是完全依赖模型训练阶段获得的知识。

例如，企业内部 API 文档可能每天更新。

如果只依赖通用模型记忆，回答可能使用过时的接口格式。

RAG 系统可以先检索当前文档，再让模型解释。

但检索质量会直接影响最终结果。

如果搜索返回了不相关的材料，模型就可能得到错误背景。

因此，RAG 并不是只要接入向量数据库就一定可靠。

还需要有效的文档解析、向量嵌入、相关性排序和引用验证。

Nemotron Retriever 此次重点增强的，就是这些基础能力。

四、Nemotron 3.5 Embed 提供哪些版本？

NVIDIA 在官方技术文章中介绍了多个 Embedding 版本。

8B 版本更注重复杂多模态信息检索质量。

1B 版本则通过较小规模降低部分运行要求。

NVFP4 版本面向支持相应精度格式的硬件，进一步优化吞吐。

但模型参数更少，并不代表最终部署只需要固定数值的显存。

实际资源占用还会受到模型格式、批处理、输入长度和推理框架影响。

五、多模态检索为什么比纯文本搜索复杂？

传统文本检索主要处理文字。

但企业文档中有大量重要信息存在于图片、表格、流程图和示意图中。

例如，工程图可能包含设备连接关系。

财务报告可能通过柱状图表达收入变化。

某些技术手册则包含图像与文字混合的说明。

如果系统只提取普通文本，这些视觉信息可能丢失。

Nemotron 3.5 Embed 可以针对文本与图像建立相关的检索表示。

例如，用户询问某个图表中展示的趋势，系统可以尝试找到相关图像，而不只是搜索图注。

但模型并不能保证理解每一张复杂图表中的所有数值。

对于财务或安全关键数据，仍需进行结构化解析和人工核验。

六、Rerank 为什么能帮助 Agent 降低成本？

Embedding 模型通常先从大量资料中寻找候选结果。

例如，一次查询可能返回最相关的 50 个文档片段。

但这些候选资料不一定全部值得提供给语言模型。

Rerank 模型可以进一步比较查询和候选内容，重新排列相关性。

随后只把更有价值的信息送入上下文。

这样可能减少无效材料占用 Token。

NVIDIA 官方技术文章报告，在其指定 Agent 检索测试中，加入 Nemotron 3.5 Rerank 后，相应配置的 Agent Token 成本减少约 13% 至 14%。

这一数字并不是所有 RAG 系统都能获得的固定收益。

如果原有检索质量已经很高，增加重排序可能只带来有限改善，甚至增加处理延迟。

因此，是否启用 Rerank 应通过真实任务验证。

七、NVIDIA 公布了哪些检索性能数据？

NVIDIA 团队公布了多项评测。

例如，Nemotron 3.5 Embed 8B BF16 在 ViDoRe v3.1 的指定评测中取得 61.17 nDCG@10。

1B BF16 版本取得 58.38。

Nemotron 3.5 Rerank 8B BF16 在相关重排序测试中取得 60.49 nDCG@10。

nDCG 用于衡量排序结果与相关性评价之间的匹配程度。

得分越高，通常代表候选结果排序更符合评测标准。

但不同数据集之间的得分不能直接比较。

同时，排行榜上的高分不保证企业内部资料搜索同样准确。

对于专业行业术语、缩写和内部文件，可能仍需要额外适配。

八、NVFP4 量化带来了什么？

NVFP4 是一种低精度数据格式，可用于降低模型运行中的部分资源要求，并提高特定硬件上的推理效率。

NVIDIA 介绍，Nemotron 3.5 Embed 1B NVFP4 对文本与图像编码器进行量化优化。

在 NVIDIA GB200 的指定测试中，吞吐量从 BF16 版本的约每秒 101.3 个文档提升至 128.8 个。

同时，官方报告保留了约 99.85% 的相关检索准确性。

但这些数字是在特定硬件和评测环境中测得的。

不能把 27.1% 的吞吐提升直接应用到所有 GPU 或所有文档尺寸。

对于生产系统，建议同时测量吞吐量、延迟、显存占用和实际检索质量。

九、Nemotron Parse 有什么作用？

企业文档往往具有复杂排版。

例如，多栏 PDF、表格、图片、公式和扫描资料。

普通文本提取工具有时会打乱阅读顺序，造成数据丢失。

Nemotron 3.5 Parse 作为专门的文档解析模型，可以帮助把复杂文档转换为后续检索和处理系统可以使用的结构。

其参数规模为 631M。

但参数量较小，并不意味着它能够在所有文件类型中准确恢复原始内容。

如果文档本身质量差、扫描模糊或包含非常复杂的图表，仍然可能需要人工处理。

因此，Parse 更适合成为文档处理流水线中的一个组件。

十、NVIDIA NIM 在部署中扮演什么角色？

NVIDIA NIM 是用于部署和提供模型推理服务的微服务体系。

在企业 RAG 中，可以通过 NIM 将相关模型作为 API 使用。

例如，文档索引服务调用 Embedding 模型。

查询服务调用 Rerank 模型。

应用再把检索结果提交给生成模型。

NVIDIA 官方提供了 Nemotron Retriever 的 NIM 资源。

但具体部署仍要满足硬件和许可证要求。

对于高并发业务，还需要配置身份验证、速率限制、指标监控和故障恢复。

不能认为部署了 NIM 就自动拥有完整的企业安全平台。

十一、NVIDIA Kumo 为什么值得关注？

很多企业最重要的数据并不是自然语言文档，而是数据库和表格。

例如，订单、客户、库存、支付和设备监控记录。

这类数据具有明确的字段和关系。

传统机器学习项目通常需要分别准备训练数据、设计特征、训练模型并部署服务。

如果业务部门不断提出不同预测任务，重复建设成本可能很高。

NVIDIA Kumo 希望通过面向结构化数据的基础模型，减少这些重复工作。

开发者可以使用预训练模型，处理分类、回归、风险评分和时间序列预测等任务。

但这不意味着所有预测任务都可以完全省去数据治理和模型评估。

十二、Kumo Relational 与 Tabular 如何区别？

Kumo Relational 主要面向多张相关数据表。

例如，一家公司拥有客户表、订单表和客服记录表。

模型可以利用不同记录之间的关联关系进行预测。

Kumo Tabular 则主要面向单张表格数据。

例如，根据历史商品销售记录预测某个分类结果或数值。

官方介绍，Kumo Tabular 可以通过 In-Context Learning 使用标注示例进行预测，不必为每一个任务都执行独立训练。

但预测质量依赖数据分布、标签质量和任务条件。

对于需要严格可解释性的高风险业务，仍需进行独立校验。

十三、Kumo Forecast 与 Anomaly 有什么应用？

Kumo Forecast 面向时间序列预测。

例如，根据历史订单和库存消耗估计未来需求。

也可以用于容量规划和其他周期性数据场景。

Kumo Anomaly 则面向时间序列异常检测。

例如，判断设备监控指标是否出现异常变化。

或者识别某项业务流量是否偏离历史规律。

但异常检测结果不等于直接证明欺诈或攻击已经发生。

例如，业务活动可能因为促销而产生自然流量高峰。

因此，对于关键告警，应结合上下文进一步判断。

十四、Kumo Engine 如何安装？

NVIDIA 官方提供了 Kumo Engine 开源工具栈。

基础安装命令为：

pip install kumo-engine

如果需要 Snowflake 相关集成，可参考：

pip install "kumo-engine[snowflake]"

对于 Databricks，官方列出了：

pip install "kumo-engine[databricks]"

这些命令来自 NVIDIA 官方开发资料。

但实际安装仍需要满足当前 Python 环境、依赖和数据访问条件。

安装成功也不意味着模型权重、数据库连接和生产推理环境已经全部配置完成。

建议先按照官方快速入门在测试环境运行示例，再接入真实业务数据。

十五、Kumo 与普通 LLM 如何协作？

假设用户向企业 Agent 提问：

“下个月哪些商品可能缺货？原因是什么？”

如果只使用语言模型，系统可能需要读取大量库存和订单记录，再自行整理推断。

一种更专业的架构是：

由 Kumo 处理结构化需求预测。

通过 Retriever 查找供应商合同和物流报告。

最后让 LLM 整合两类结果，生成解释。

这种方式把预测计算、资料检索和自然语言输出分给不同组件。

但最终回答仍需要保留证据来源。

尤其是预测值不应被包装为已经发生的事实。

对于高风险经营决策，用户还应该能够检查模型使用的数据时间范围和预测假设。

十六、企业 RAG 为什么不应只使用向量数据库？

向量数据库可以帮助查找相似信息，但完整企业知识系统往往还需要更多能力。

例如，文档解析。

图片理解。

权限过滤。

关键词检索。

重排序。

结构化数据库查询。

预测模型。

引用验证。

如果缺少权限过滤，检索系统可能把不应公开的资料发送给不具备权限的用户。

如果缺少来源管理，模型可能引用过期文档。

因此，Nemotron Retriever 和 Kumo 应被视为完善企业 AI 数据处理体系的组件，而不是取代全部数据治理工作。

十七、NVIDIA 其他开放模型有哪些更新？

此次 NVIDIA 公告还涵盖多个方向。

Cosmos 3.5 面向物理世界模拟和机器人开发。

Alpamayo 2 Edge 面向自动驾驶相关推理。

BioNeMo RFD4-Proteina 面向蛋白质设计。

Ising 面向量子计算研究。

但不同产品的开放状态并不相同。

例如，NVIDIA 表示 Alpamayo 2 Edge 将于 10 月下旬提供下载。

Nemotron 3.5 Bolt E4B 4GB 预计于 10 月 23 日发布。

因此，不能把这些未来计划全部写成 10 月 21 日已经开放下载。

十八、开放权重等于可以无限制商用吗？

不能这样理解。

NVIDIA 提供开放模型资源，不代表所有模型和配套软件都采用相同许可证。

不同权重、工具库和托管推理服务可能具有不同使用条件。

企业计划提供收费 API 或自托管服务时，应分别检查模型许可证和软件协议。

此外，还需要考虑硬件成本、系统维护、数据安全和模型更新。

对于低频任务，托管 API 可能更容易开始。

对于高频内部业务，自部署值得进行成本评估。

但最终决策应基于实际吞吐量和完整运营成本。

十九、常见问题 FAQ

Nemotron Retriever 是聊天模型吗？

它主要用于嵌入、重排序和文档解析，不属于普通聊天生成模型。

支持多模态检索吗？

NVIDIA 官方提供了支持文本和图像检索的版本。

Nemotron 3.5 Embed 有哪些参数规模？

当前官方技术文章列出了 8B 和 1B 等版本。

Rerank 能保证所有 RAG 任务都省 14% Token 吗？

不能。相关数据来自 NVIDIA 指定测试配置。

Kumo 是否专门处理结构化数据？

是的，主要面向表格、关联数据库和时间序列。

Kumo 可以在本地安装吗？

NVIDIA 提供开源工具与模型资源，但实际部署仍需要满足依赖、硬件和许可要求。

Alpamayo 2 Edge 已经开放下载了吗？

截至 10 月 22 日，NVIDIA 公告将其列为后续开放的产品。

二十、结语：企业 Agent 的竞争正从生成模型延伸到专业数据模型

NVIDIA 此次开放模型更新揭示了一项重要趋势。

企业 AI 的实际能力不只取决于语言模型本身。

高质量检索、文档解析、结构化数据预测和可靠的工具执行，同样会影响任务结果。

Nemotron Retriever 希望帮助 Agent 找到更准确的证据。

Kumo 则为企业表格、关联记录和时间序列提供专门的预测能力。

它们与语言模型组合，有机会构建更加适合真实业务的 AI 系统。

但部署时仍要考虑数据质量、权限、成本和独立评估。

未来，成熟的企业 Agent 很可能不是由一款模型完成全部工作，而是让多个专业组件在明确的安全和数据边界内协同执行。

官方参考资料

1. NVIDIA — Open Models Advance Europe’s Sovereign Intelligence https://blogs.nvidia.com/blog/open-models-europe-industry/

2. NVIDIA — Nemotron 3.5 Embed、Rerank、Parse 技术文章 https://huggingface.co/blog/nvidia/nemotron-retriever-world-class-agentic-retrieval

3. NVIDIA Kumo 开发者页面 https://developer.nvidia.com/topics/ai/agent-knowledge-foundation/kumo

4. NVIDIA Kumo 开放模型集合 https://huggingface.co/collections/nvidia/nvidia-kumo-structured

5. NVIDIA Kumo Engine 开源仓库 https://github.com/NVIDIA/kumo-engine