엔비디아 에이전트 툴킷 확대, 기업 데이터 기반 에이전트 구현
🇰🇷 한글 번역
에이전트는 그들이 아는 것만큼만 유용하며, 그들이 작동하는 경계만큼만 신뢰할 수 있습니다.
주요 기업들은 새로운 도구로 확장된 오픈 소스 NVIDIA 에이전트 툴킷을 사용하여 에이전트를 사용자 정의하고 제어하며, 회사 데이터를 활용하여 답변과 행동을 안내하고, 에이전트의 행동을 모니터링하며, 운영 방식을 거버넌스하고 있습니다.
NVIDIA 에이전트 툴킷은 다음으로 구성됩니다:
- NVIDIA CUDA-X 라이브러리를 갖춘 새로운 NVIDIA 에이전트 지식 재단(Agent Knowledge Foundation)
- Nemotron Retriever 및 새로운 Kumo 패밀리 등 NVIDIA 오픈 모델
- NVIDIA OpenShell 보안 에이전트 런타임
- NVIDIA NemoClaw 보안 에이전트 설계도(blueprints)
- NeMo Relay 및 NeMo Compass와 같은 도구 및 스킬
개발부터 배포까지 신뢰할 수 있으며 실제 작업을 수행하는 에이전트를 개발하려면 모델, 하니스(harness), 런타임, 데이터 및 도구를 하나로 모은 오픈 에이전트 스택이 필요합니다.
NVIDIA 에이전트 지식 재단은 기업이 데이터를 에이전트가 사용할 수 있는 회사 지능으로 전환하는 데 도움을 줍니다. 에이전트는 관련 정보를 찾고, 그것이 비즈니스에 어떤 의미를 가지는지 이해하며, 이를 활용하여 예측을 수행하고 사람들이 다음 행동을 결정하도록 돕습니다. 기업은 데이터를 이동하거나 기존 워크플로우를 다시 구축하거나 거버넌스 컨트롤을 변경하지 않고도 에이전트 지식 재단을 사용할 수 있습니다.
이 재단에는 cuDF, cuGraph, cuML, cuOpt, cuVS를 포함한 NVIDIA CUDA-X 라이브러리와 새로운 Auto-Ontology 라이브러리가 포함되어 있습니다. Auto-Ontology 라이브러리는 고객, 제품, 주문과 같은 친숙한 비즈니스 개념으로 원시 회사 데이터를 변환하고它们 간의 관계를 매핑합니다.
또한 에이전트가 관련 회사 정보를 찾아 질문에는 답하고 예측을 수행할 수 있도록 도와주는 NVIDIA Nemotron Retriever 및 Kumo Structured 오픈 모델(Kumo Tabular, Kumo Relational, Kumo Time Series, Kumo Forecast)도 포함되어 있습니다.
OpenShell은 에이전트가 접근하고 수행할 수 있는 내용에 대한 제어를 기업에 제공하는 보안 런타임 경계를 제공합니다. NVIDIA NemoClaw 설계도는 보안적이고 전문화된 에이전트를 구축하기 위한 참조 설계(reference designs)를 제공합니다. 에이전트 최적화를 위한 최신 NemoClaw 설계도는 에이전트 지능을 개선하기 위한 단계별 시작점을 제공하여 시간이 지남에 따라 업무 수행 능력을 향상시킵니다.
기업들의 NVIDIA 에이전트 지식 재단 채택
새로운 NVIDIA 에이전트 지식 재단은 이미 전 기업에서 활용되고 있습니다.
Palantir과 함께 NVIDIA의 공급망 조직은 Palantir Foundry, Ontology 및 AIP을 통해 에이전트 지식 재단을 사용하고 있으며, 전문화된 에이전트를 배포하고, 독점 데이터에서 실행 가능한 지능을 생성하며, 결과를 예측하고 의사결정을 최적화하고 있습니다.
Databricks는 NVIDIA Kumo Anomaly를 Databricks Genie Ontology와 결합하여 문맥 인식 에이전트에 동력을 제공합니다.
Snowflake은 고객들이 Snowflake Notebook 환경에서 NVIDIA Kumo Engine 및 Kumo Relational 오픈 모델을 사용하여 더 많은 예측 기능을 활용할 수 있도록 지원합니다.
NVIDIA Nemotron Retriever 모델은 검색을 더 빠르고 정확하게 만듭니다. 임베딩 모델을 사용한 Amazon OpenSearch Service는 검색 단계를 줄이고 거의 추가 지연 시간 없이 관련성을 개선했습니다. SAP의 파인튜닝된 리랭커(reranker)는 약 3배 더 빠르게 실행되었습니다. ServiceNow는 지연 시간을 약 4분의 1 줄이면서 리랭킹 품질을 개선했습니다. Zoom은 Zoom AI Services를 위한 문서 이해, 검색 관련성 및 컨텍스트 검색을 개선하기 위해 Nemotron Retriever 모델을 사용하고 있습니다.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst 및 VAST Data 또한 에이전트 지식 재단을 기반으로 구축하는 기업들 중 하나입니다.
생산 환경에서 전문화된 에이전트를 구축, 배포 및 최적화하는 방법에 대한 GTC 베를린 세션에 참여하여 더 자세히 알아보세요.
📄 원문 (English)
Agents are only as useful as what they know, and only as trustworthy as the boundaries they run within.
Leading enterprises are using the open source NVIDIA Agent Toolkit — now expanded with new tools — to customize and control agents, use company data to inform their answers and actions, monitor what they do and govern how they operate.
NVIDIA Agent Toolkit comprises:
- The new NVIDIA Agent Knowledge Foundation with NVIDIA CUDA-X libraries
- NVIDIA open models including Nemotron Retriever and the new Kumo family
- NVIDIA OpenShell secure agent runtime
- NVIDIA NemoClaw secure agent blueprints
- Tools and skills, like NeMo Relay and NeMo Compass
To develop agents that accomplish real work and are trustworthy from development to deployment, builders need an open agent stack that brings together the models, harness, runtime, data and tools.
NVIDIA Agent Knowledge Foundation helps enterprises turn data into company intelligence agents can use. Agents can find relevant information, understand what it means for the business and use it to make predictions and help people decide what to do next. Companies can use Agent Knowledge Foundation without moving data, rebuilding existing workflows or changing governance controls.
The foundation features NVIDIA CUDA-X libraries, including cuDF, cuGraph, cuML, cuOpt and cuVS, and the new Auto-Ontology library, which translates raw company data into familiar business concepts — like customers, products and orders — and maps how they relate.
It also includes NVIDIA Nemotron Retriever and Kumo Structured open models — Kumo Tabular, Kumo Relational, Kumo Time Series and Kumo Forecast — which help agents find relevant company information to answer questions and make predictions.
OpenShell provides the secure runtime boundary, giving enterprises control over what agents can access and do. NVIDIA NemoClaw blueprints provide reference designs for building secure, specialized agents. The newest NemoClaw blueprint for agent optimization provides a step-by-step starting point for improving agent intelligence — making them better at their jobs over time.
Enterprises Adopt NVIDIA Agent Knowledge Foundation
The new NVIDIA Agent Knowledge Foundation is already at work across enterprises.
With Palantir, NVIDIA’s supply chain organization is using Agent Knowledge Foundation through Palantir Foundry, Ontology and AIP to deploy specialized agents, create actionable intelligence from proprietary data, predict outcomes and optimize decision-making.
Databricks pairs NVIDIA Kumo Anomaly with Databricks Genie Ontology to power context-aware agents.
Snowflake is enabling customers to use the NVIDIA Kumo Engine and Kumo Relational open models in their Snowflake Notebook environments to unlock more predictive capabilities.
NVIDIA Nemotron Retriever models make search faster and more accurate. Using the embedding model, Amazon OpenSearch Service improved relevance with fewer search steps and virtually no added latency. SAP’s fine-tuned reranker ran nearly 3x faster. ServiceNow improved reranking quality while cutting latency by nearly a quarter. Zoom is using Nemotron Retriever models to improve document understanding, search relevance and context retrieval for Zoom AI Services.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst and VAST Data are also among those building on Agent Knowledge Foundation.
Learn more by joining this GTC Berlin session on building, deploying and optimizing specialized agents in production.
▶ 칩 라이브 24 홈으로 — chiplive24.com