엔비디아 에이전트 툴킷 확장 기업 데이터 접지 강화

엔비디아 에이전트 툴킷 확장 발표

엔비디아가 오픈소스 NVIDIA Agent Toolkit을 새 도구로 확장했다고 발표했다. 이 툴킷은 기업이 에이전트를 맞춤화하고 통제하며, 회사 데이터를 답변과 행동에 활용하고, 에이전트가 하는 일을 모니터링하고 운영 방식을 거버넌스하는 데 쓰인다. 원문은 에이전트의 유용성이 무엇을 알고 있느냐, 어떤 경계 안에서 작동하느냐에 달려 있다는 문제의식으로 발표를 설명한다.

구성은 새 NVIDIA Agent Knowledge Foundation과 NVIDIA CUDA-X 라이브러리, Nemotron Retriever 및 새 Kumo 계열을 포함한 오픈 모델, NVIDIA OpenShell 보안 런타임, NVIDIA NemoClaw 보안 에이전트 청사진, NeMo Relay와 NeMo Compass 같은 도구·스킬로 이뤄진다. 원문은 실제 업무를 수행하고 개발부터 배포까지 신뢰할 수 있는 에이전트를 만들려면 모델, 하네스, 런타임, 데이터, 도구를 함께 묶은 오픈 에이전트 스택이 필요하다고 강조한다. 대상은 소비자용 챗봇이 아니라 기업 내부 데이터와 업무 절차에 붙는 에이전트를 만드는 빌더다.

이번 확장의 표면적 변화는 새 라이브러리와 모델, 런타임, 청사진이 추가된 것이다. 그러나 원문이 반복해서 내세우는 것은 기능 목록보다 데이터에 접지된 에이전트와 통제 가능한 실행 경계다. 원문에 직접 언급은 없지만, 기업이 에이전트를 도입할 때 모델 성능만큼 데이터 해석과 권한 관리가 중요해졌다는 점을 제품 구성에 반영한 셈이다.

기업 데이터 접지가 핵심 쟁점

이번 발표의 쟁점은 모델 크기보다 데이터 접지와 통제에 있다. 기업 에이전트가 실무에 쓰이려면 고객·제품·주문 같은 사내 개념을 이해하고, 그 정보를 예측과 의사결정 지원에 연결해야 한다. 동시에 무엇에 접근하고 무엇을 할 수 있는지 경계를 정하지 않으면 배포 단계에서 신뢰 문제가 생긴다.

원문에 직접 언급은 없지만, 이 구성은 데이터 플랫폼과 클라우드 기업이 에이전트 실행 기반을 두고 벌이는 경쟁과 맞닿아 있다. 엔비디아는 모델만 제공하는 대신 데이터 변환, 검색, 예측, 런타임, 거버넌스를 한 묶음의 오픈 스택으로 제시한다. 도입 기업은 특정 데이터 플랫폼 안에서 에이전트를 만들 수 있지만, 그만큼 각 플랫폼의 통합 품질과 보안 설정을 함께 따져야 한다.

개발자에게는 선택지가 늘어난다. Nemotron Retriever와 Kumo 모델, CUDA-X 라이브러리, OpenShell, NemoClaw를 조합해 검색·예측·실행 에이전트를 만들 수 있다. 원문에 직접 언급은 없지만, 반대로 기업 운영자에게는 관리 부담이 생긴다. 여러 구성요소를 조합하는 만큼 데이터 접근 권한, 모델 버전, 런타임 정책, 파트너 통합을 각각 검증해야 하기 때문이다.

오픈소스 툴킷 이전과 달라진 점

원문은 이전 버전과 새 버전의 상세 비교표를 제공하지 않는다. 대신 기존 오픈소스 Agent Toolkit이 새 도구로 확장됐고, 새 Agent Knowledge Foundation이 추가됐다고 설명한다. 핵심 변화는 사내 데이터를 에이전트가 쓸 수 있는 회사 지능으로 바꾸는 계층과, 에이전트가 작동할 보안 경계를 전면에 배치한 점이다.

배경에는 기업 데이터가 여러 시스템에 흩어져 있고, 기존 워크플로와 거버넌스 체계를 그대로 두고 싶다는 요구가 있다. 원문에 따르면 기업은 데이터를 이동하거나 기존 워크플로를 재구축하거나 거버넌스 통제를 바꾸지 않고 Agent Knowledge Foundation을 사용할 수 있다. 이는 원문에 직접 언급은 없지만, 에이전트 도입의 장벽을 데이터 이전이 아니라 데이터 해석과 통제에 두겠다는 접근으로 읽힌다.

새 Auto-Ontology 라이브러리도 이 흐름을 보여준다. 원시 데이터를 고객·제품·주문처럼 익숙한 비즈니스 개념으로 번역하고 관계를 매핑한다는 설명은 에이전트가 테이블과 문서를 그대로 읽는 대신 업무 맥락을 이해하도록 돕는 장치다. OpenShell과 NemoClaw가 실행 경계와 참조 설계를 맡는 것도 같은 맥락이다.

실제 활용 사례와 데이터 연결 방식

Agent Knowledge Foundation은 원시 기업 데이터를 비즈니스 개념으로 번역하는 Auto-Ontology 라이브러리를 포함한다. cuDF, cuGraph, cuML, cuOpt, cuVS 같은 CUDA-X 라이브러리도 들어간다. Nemotron Retriever와 Kumo Structured 오픈 모델(Kumo Tabular, Relational, Time Series, Forecast)은 에이전트가 관련 정보를 찾아 질문에 답하고 예측하는 데 쓰인다.

OpenShell은 기업이 에이전트의 접근 범위와 행동을 통제하는 보안 런타임 경계를 제공한다. NemoClaw 청사진은 보안이 적용된 특화 에이전트를 만들기 위한 참조 설계다. 새 NemoClaw 청사진은 에이전트 최적화를 위한 단계별 출발점을 제공해 시간이 지나면서 에이전트가 맡은 일을 더 잘하도록 개선하는 데 초점을 둔다.

활용 사례는 공급망, 검색, 예측으로 나뉜다. 엔비디아 공급망 조직은 Palantir Foundry, Ontology, AIP를 통해 Agent Knowledge Foundation으로 특화 에이전트를 배포하고 독점 데이터에서 실행 가능한 인텔리전스를 만들고 결과를 예측하며 의사결정을 최적화한다. Databricks는 NVIDIA Kumo Anomaly와 Genie Ontology를 결합하고, Snowflake는 고객이 Snowflake Notebook 환경에서 Kumo Engine과 Kumo Relational 모델을 쓰도록 한다.

검색·리랭킹 사례도 구체적이다. Amazon OpenSearch Service는 Nemotron Retriever 임베딩 모델로 검색 관련성을 높였고, SAP는 파인튜닝한 리랭커가 거의 3배 빨라졌으며, ServiceNow는 리랭킹 품질을 높이면서 지연을 약 4분의 1 줄였다고 원문은 전한다. Zoom은 Nemotron Retriever 모델을 Zoom AI Services의 문서 이해, 검색 관련성, 문맥 검색 개선에 사용한다.

AWS, ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst, VAST Data도 Agent Knowledge Foundation 위에서 구축하는 기업으로 언급됐다. 다만 가격, 일반 제공 시점, 마이그레이션 조건은 원문에 제시되지 않는다. 기업이 실제 도입을 검토하려면 파트너별 통합 방식과 지원 범위를 별도로 확인해야 한다.

보안 런타임과 거버넌스의 한계

원문은 엔비디아 블로그이므로 성능 수치는 선택적으로 제시된 사례다. SAP의 거의 3배, ServiceNow의 약 4분의 1 지연 감소, Amazon OpenSearch의 거의 추가 지연 없음은 구체적이지만 독립 벤치마크나 전체 워크로드 조건은 원문에 없다. 같은 이유로 OpenShell의 실제 구현 방식, NemoClaw 청사진의 성숙도, Kumo·Nemotron 모델의 라이선스 조건도 이 글만으로 판단하기 어렵다.

또 하나의 한계는 데이터 거버넌스가 데이터를 옮기지 않는다는 설명만으로 끝나지 않는다는 점이다. 원문은 기존 거버넌스 통제를 바꾸지 않고 쓸 수 있다고 하지만, 접근 권한, 감사 로그, 규제 지역별 요구사항을 어떻게 처리하는지는 상세히 밝히지 않는다. NemoClaw가 참조 설계인 만큼 기업이 실제 배포에 옮기려면 별도 검증과 운영 절차가 필요하다.

오픈 모델과 오픈소스 툴킷이라는 표현도 비용 절감을 자동으로 보장하지 않는다. 원문에는 모델 가중치 공개 범위, 상업적 사용 조건, 지원 기간, 유지보수 주체가 나오지 않는다. 기업은 성능뿐 아니라 라이선스 검토와 장기 운영 계획을 함께 세워야 한다.

다음 분기 지켜볼 엔비디아 신호

다음 분기 확인할 첫 신호는 Agent Knowledge Foundation과 OpenShell, NemoClaw가 실제 기업 환경에서 어떤 제공 형태와 가격으로 쓰이는지다. 원문은 Palantir, Databricks, Snowflake 등 파트너 사례를 제시했지만 일반 고객이 바로 쓸 수 있는 제품인지, 별도 서비스가 필요한지는 밝히지 않는다. GTC Berlin 세션에서 구축·배포·최적화 사례가 공개된다는 점도 확인 대상이다.

두 번째 신호는 검색·리랭킹 성능이 독립 평가에서도 유지되는지다. Nemotron Retriever와 Kumo 모델이 다양한 데이터 규모에서 같은 품질과 지연 특성을 보이는지, Auto-Ontology가 업종별 데이터를 얼마나 자동으로 해석하는지가 관건이다. 세 번째는 보안 런타임의 통제 범위다. 기업이 OpenShell에서 접근 권한과 감사 가능성을 얼마나 세밀하게 설정할 수 있는지 확인해야 도입 판단이 가능하다.

네 번째 신호는 파트너 생태계의 실제 배포 수준이다. 원문에 이름이 오른 AWS, IBM, Oracle, Perplexity, Starburst 등이 단순 구축 발표를 넘어 고객 환경에서 어떤 워크로드를 처리하는지 확인할 필요가 있다. 이 신호들이 확인되면 엔비디아의 에이전트 툴킷이 발표용 구성인지, 기업 데이터 운영의 실질 기반인지 판단할 수 있다.

자주 묻는 질문

관련 기사

• 엔비디아, 앤트로픽 클로드 데이터센터 대출 보증 검토
• 엔비디아 RTX Spark 노트북, AI 에이전트·게임 기능 확대
• 엔비디아 코스모스, 월드모델 학습·평가·배포 도구 확장
• 챗GPT 이후 오픈모델로 유럽 유통 바꾸는 엔비디아

출처

NVIDIA 원문

원문 확인 2026-10-21