NVIDIA Agent Toolkit 扩展,新增 Agent Knowledge Foundation 等组件
NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation,并整合 CUDA-X 库、Nemotron Retriever 与 Kumo 系列开放模型、OpenShell 安全运行时和 NemoClaw 蓝图。
原文列出 Agent Toolkit 新增组件与多家企业的落地方式,可据此判断企业智能体如何接入自有数据并受控运行。
智能体的价值取决于它所掌握的知识,其可信度则取决于它运行时所处的边界。
领先企业正在使用开源 NVIDIA Agent Toolkit——现已扩展新工具——来定制和控制智能体,利用公司数据为其回答和行动提供依据,监控其行为并治理其运作方式。
NVIDIA Agent Toolkit 包含:
- 全新的 NVIDIA Agent Knowledge Foundation 及 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- 工具与技能,如 NeMo Relay 和 NeMo Compass
要开发能够完成实际工作、且从开发到部署全程可信的智能体,构建者需要一个开放智能体栈,将模型、harness、运行时、数据和工具整合在一起。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可用的企业智能。智能体可以找到相关信息,理解其对业务的意义,并利用它做出预测、帮助人们决定下一步行动。企业无需迁移数据、重建现有工作流或更改治理控制,即可使用 Agent Knowledge Foundation。
该基础包含 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库,后者可将原始公司数据转化为熟悉的业务概念——如客户、产品和订单——并映射它们之间的关系。
它还包含 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——帮助智能体找到相关的公司信息以回答问题并做出预测。
OpenShell 提供安全的运行时边界,让企业控制智能体可以访问和执行的操作。NVIDIA NemoClaw 蓝图提供构建安全、专用智能体的参考设计。最新的 NemoClaw 智能体优化蓝图提供了逐步起点,用于提升智能体智能——使其随时间推移在工作中表现更佳。
企业采用 NVIDIA Agent Knowledge Foundation
全新的 NVIDIA Agent Knowledge Foundation 已在各企业投入使用。
借助 Palantir,NVIDIA 供应链组织 正通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation,部署专用智能体,从专有数据中生成可执行的智能,预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为上下文感知智能体提供支持。
Snowflake 正让客户能够在他们的 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,以解锁更多预测能力。
NVIDIA Nemotron Retriever 模型让搜索更快、更准确。借助该嵌入模型,Amazon OpenSearch Service 以更少的搜索步骤提升了相关性,且几乎没有增加延迟。SAP 的 微调重排序器运行速度提升了近 3 倍。ServiceNow 在提升重排序质量的同时,将延迟降低了近四分之一。Zoom 正使用 Nemotron Retriever 模型来改进 Zoom AI Services 的文档理解、搜索相关性和上下文检索。
Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、 Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也在基于 Agent Knowledge Foundation 进行构建的名单之中。
加入这场 关于在生产环境中构建、部署和优化专用智能体的 GTC Berlin 会议,了解更多信息。
来源:NVIDIA Blog · blogs.nvidia.com