엔비디아, AI 팩토리 관측용 '미네르바 AIOps' 플랫폼 출시
🇰🇷 한글 번역
엔비디아는 AI 팩토리 인프라와 워크로드 전반에 걸쳐 엔드투엔드 관측성을 제공하도록 특별히 설계된 AIOps 플랫폼 ‘미네르바(Minerva)’를 출시했다.
풀스택 엔비디아 베라 루빈(Vera Rubin) 플랫폼의 일부로 자리 잡은 미네르바는 엔비디아 GPU, 스펙트럼-X 이더넷, NVLink 스위치, 슈퍼NIC, 데이터 처리 장치, Slurm 및 엔비디아 Run:ai와 같은 스케줄러, 그리고 AI 워크로드 자체로부터 텔레메트리 데이터를 수집한다. 수집된 신호는 네트워킹, 컴퓨팅, 스토리지 레이어를 아우르며, 전통적으로 각기 다른 팀들이 클러스터 건강 상태에 대한 불완전한 시각만 갖게 하던 단편화된 모니터링 접근 방식을 대체한다.
심층적인 산업 인텔리전스에 접근하라
독특한 데이터, AI, 인간 전문 지식을 결합한 단일 플랫폼으로 비할 데 없는 명확성을 경험하라.
대규모 AI 팩토리에는 모델을 훈련하고 추론을 서비스하기 위해 고속 네트워크로 연결된 수십만 개의 그래픽 처리 장치(GPU)가 포함될 수 있다.
이러한 환경에서는 예상보다 높은 온도로 작동하는 GPU나 처리량이 감소하는 스토리지 드라이브처럼 단일 구성 요소의 성능 저하가 전체 작업 속도를 늦출 수 있다. 엔비디아의 인피니밴드 및 이더넷 네트워킹 플랫폼 부서의 마케팅 수석 이사인 브라이언 스팍스(Brian Sparks)는 회사 블로그를 통해 미네르바는 이러한 초기 경고 신호를 포착하도록 설계되었다고 밝혔다.
플랫폼의 핵심은 GPU, 슈퍼NIC, 스위치, 케이블 및 해당 구성 요소에서 실행 중인 워크로드를 포함한 인프라 요소 간의 논리적 관계를 매핑하는 동적 지식 그래프이다. 이 통합된 토폴로지를 통해 운영자는 막대한 GPU 수를 보유한 클러스터에서도 느린 훈련 작업을 유발하는 특정 구성 요소로 거슬러 올라가 문제를 추적할 수 있다.
미네르바는 시간당 수십억 개의 텔레메트리 데이터 포인트를 처리하며, 정상적인 작동 패턴을 모델링하고 비정상적인 동작을 플래그 지정하며, 발전하는 결함을 예측하고 팩토리의 물리적 및 논리적 레이아웃을 기반으로 관련 이벤트를 연결하기 위해 지도 학습과 비지도 학습 머신러닝을 모두 활용한다.
플랫폼은 개별 증상을 모두 전달하는 대신, 하위 원인 및 가능한 근본 원인을 제시하는 초점화된 인시던트로 연쇄적인 경고를 통합한다.
엔비디아는 미네르바에 네이티브 AI 어시스턴트를 구축하고 외부 에이전트형 AI 도구와의 연결을 활성화했다. 이를 통해 운영자는 실시간 텔레메트리에 기반한 자연어 인터페이스를 통해 클러스터 건강 상태를 쿼리하고 복구 권장 사항을 받을 수 있다.
팀은 수동으로 수정 사항을 적용하거나 인프라 API 및 외부 자동화 시스템을 통해 이를 라우팅할 수 있는 옵션을 유지한다.
회사는 미네르바의 영향을 세 가지 운영 결과 중심으로 포지셔닝한다. 여기에는 예측 유지보수를 통해 워크로드 중단 간격을 연장하고, 결함을 신속하게 격리하여 수리 시간을 단축하며, 데이터 노이즈를 줄여 운영자에게 실제로 실행 가능한 알림만 도달하도록 하는 것이 포함된다.
엔비디아는 GPU 시간, 구두트(Goodput), 클러스터 가동 시간 및 토큰 생산량을 통해 전체 AI 팩토리 수율을 측정한다.
IREN은 이미 이 플랫폼을 사용하고 있다.
IREN의 최고기술책임자(CTO) 데니스 스크린니코프(Denis Skrinnikoff)는 “우리가 AI 팩토리를 확장함에 있어 고객에게 최상의 서비스를 제공하는 열쇠는 GPU의 생산성을 극대화하는 것이다”라고 말했다.
“엔비디아 미네르바는 네트워크, GPU 및 해당 GPU에서 실행 중인 작업 전반에 걸쳐 운영팀에게 하나의 시각을 제공하므로, 우리는 문제 해결보다는 예방적 유지보수에 더 많은 집중을 할 수 있게 되었다. 이러한 가시성은 우리가 구축 중인 인프라에 대한 운영 모델을 강화한다.”
아이렌(Iren) 외에도 엔비디아는 아올라니(Aolani), 비트디어 AI(Bitdeer AI), IBM, 지오(Jio), 람다(Lambda), 퀘이크 AI(Quake AI), 테슬라가 미네르바(Minerva)를 도입할 계획이라고 확인했다. 시스템 측면에서는 델 테크놀로지스(Dell Technologies), 레노버(Lenovo), 수퍼마이크로(Supermicro)가 각자의 AI 팩토리 운영 포트폴리오에 이 플랫폼을 통합하여 엔터프라이즈 인프라 채널 전반에서 그 가용성을 확대할 예정이다.
📄 원문 (English)
Nvidia has launched Minerva, an AIOps platform purpose-built to provide end-to-end observability across AI factory infrastructure and workloads.
Sitting within the full-stack Nvidia Vera Rubin platform, Minerva gathers telemetry from Nvidia GPUs, Spectrum-X Ethernet, NVLink switches, SuperNICs, data processing units, schedulers such as Slurm and Nvidia Run:ai, and the AI workloads themselves. The collected signals span networking, compute and storage layers, replacing fragmented monitoring approaches that traditionally leave different teams with incomplete views of cluster health.
Access deeper industry intelligence
Experience unmatched clarity with a single platform that combines unique data, AI, and human expertise.
Large-scale AI factories can contain hundreds of thousands of graphic processing units (GPUs) linked by high-speed networks to train models and serve inference.
In such environments, a single degraded component, whether a GPU running hotter than expected or a storage drive losing throughput, can slow an entire job. Minerva is designed to catch those early warning signs, wrote Brian Sparks, senior director of marketing at Nvidia’s InfiniBand and Ethernet networking platforms unit, in a company blog.
Central to the platform is a dynamic knowledge graph that maps the logical relationships between infrastructure elements, including GPUs, SuperNICs, switches and cables, and the workloads running on them. This unified topology allows operators to trace a slow training job back to the specific component causing the issue, even in clusters with vast GPU counts.
Minerva processes billions of telemetry data points per hour, using both supervised and unsupervised machine learning to model normal operating patterns, flag unusual behaviour, anticipate developing faults and link related events based on the factory’s physical and logical layout.
Rather than forwarding every individual symptom, the platform consolidates cascading alerts into focused incidents accompanied by a probable root cause.
Nvidia has also built a native AI assistant into Minerva and enabled connections to external agentic AI tools. This provides a natural-language interface grounded in live telemetry, through which operators can query cluster health and receive remediation recommendations.
Teams retain the option of applying fixes manually or routing them through infrastructure APIs and external automation systems.
The company positions Minerva’s impact around three operational outcomes. These include extending the interval between workload interruptions through predictive maintenance, shortening repair times by rapidly isolating faults, and reducing data noise so that only genuinely actionable alerts reach operators.
Nvidia measures overall AI factory yield through GPU hours, goodput, cluster uptime and token production.
IREN is already using the platform.
IREN chief technology officer Denis Skrinnikoff said: “As we scale our AI factories, the key to providing the best service for our customers is maximising the productivity of our GPUs.
“NVIDIA Minerva gives our operations team one view across the network, the GPUs and the jobs running on them, so we focus more on proactive maintenance rather than troubleshooting. That visibility strengthens our operating model for the infrastructure we’re building next.”
Beyond IREN, Nvidia confirmed that Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI and Tesla plan to deploy Minerva. On the systems side, Dell Technologies, Lenovo and Supermicro will incorporate the platform into their respective AI factory operations portfolios, extending its availability across enterprise infrastructure channels.
▶ 칩 라이브 24 홈으로 — chiplive24.com