Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
🇰🇷 한글 번역
인스턴스의 일반 제공은 다음 달에 시작되며, 유럽 지역으로의 계획된 확장을 통해 클라우드 고객에게 학습, 추론 및 대규모 강화 학습을 위한 통합 플랫폼을 제공할 예정입니다.
A5X 인스턴스는 치열한 에이전트 추론 및 강화 학습 워크로드를 대규모로 처리하기 위해 NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNIC, Google Cloud Virgo 네트워크 및 Google Cloud의 4세대 고급 액체 냉각 기술을 결합합니다. Google Cloud는 여러 사이트에 걸쳐 최대 96만 개의 Rubin GPU를 갖춘 Vera Rubin 기반 인프라로 확장할 계획입니다.
알파고의 창시자 데이비드 실버가 설립한 런던 기반 기술 기업 이네이블 인텔리전스(Ineffable Intelligence)는 A5X에 접근한 첫 번째 고객입니다. 이네이블은 이 플랫폼을 활용해 대규모 강화 학습을 발전시키고, 경험을 통해 지속적으로 학습하는 ‘슈퍼러너(Superlearner)’ 시스템을 구축하고 있습니다.
상호작용을 통한 학습에는 경험 생성, 결과 평가 및 모델 업데이트의 연속적인 사이클이 필요하며, 이는 전체 프로세스를 대규모로 지원할 수 있는 인프라를 요구합니다. A5X는 컴퓨팅, 네트워킹 및 스토리지를 결합하여 경험 기반 학습을 대규모로 지원하기 위해 Google Cloud의 AI 하이퍼컴퓨터에 Vera Rubin을 통합 시스템으로 도입합니다.
데이비드 실버 이네이블 인텔리전스 설립자 겸 CEO는 “우리는 자체 경험을 통해 지속적으로 개선되는 슈퍼러너를 구축하고 있습니다. 이는 상당한 컴퓨팅 성능과 경험 생성 및 그 경험에 대한 학습 사이의 긴밀한 연결을 모두 요구하며, 에이전트의 각 개선 사항이 다음 경험을 빠르게 형성할 수 있도록 합니다. Vera CPU와 Rubin GPU 간, 그리고 랙 내 Rubin GPU 간에 뛰어난 컴퓨팅 성능과 고대역폭 연결성을 결합한 Vera Rubin 덕분에 우리는 강화 학습 연구의 규모와 야망을 한층 더 끌어올릴 수 있습니다.”라고 말했습니다.
런던 기반 마케팅 및 커뮤니케이션 기업 WPP도 NVIDIA Nemotron 모델과 NVIDIA OpenShell(안전한 AI 에이전트를 위한 NVIDIA OpenShell 참조 아키텍처의 일부)을 사용하여 NVIDIA Vera Rubin 기반 A5X 인스턴스에서 창의적 에이전트 참조 아키텍처를 시연했습니다.
에이전트는 대화식 요청을 비디오 생성, 업스케일링 및 스타일 변환 등 다단계 창의적 워크플로우로 전환하며, 실행 전 인간의 승인을 받습니다. OpenShell은 에이전트 실행을 위한 관리된 샌드박스를 제공하여 민감한 브랜드 자산 및 창의적 도구への 접근을 통제하는 데 도움을 줍니다. WPP의 초기 테스트에서 일반적으로 여러 노드 클러스터가 필요했던 워크로드는 단일 A5X 인스턴스에서 실행되었습니다.
조직들이 에이전트 시스템을 도입함에 따라, 이러한 시스템을 구동하는 독점 모델과 민감한 데이터를 보호해야 합니다. 이는 조직이 소유하지 않은 인프라에서 실행되는 경우에도 마찬가지입니다.
Google Cloud는 NVIDIA GB300 NVL72 기반 A4X Max 인스턴스와 같은 베어 메탈 인스턴스에서 랙 규모의 NVIDIA Confidential Computing을 제공하는 최초의 클라우드 제공 업체 중 하나가 될 예정입니다. 또한 Google Cloud는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 기반 G4 VM에서 Confidential Computing을 일반 제공하며, 기밀 추론 및 파인튜닝을 위한 유연한 플랫폼을 제공합니다. Vertebrae, Polaris Cloud, Confidential Core AI 등 여러 고객이 대화형 프라이버시, 검증 가능한 에이전트 실행 및 정책 기반 기업 인텔리전스를 위해 Confidential G4를 사용하고 있습니다.
Google Cloud와 NVIDIA는 에너지 효율적인 대규모 설치를 지원하기 위해 Vera Rubin 기반 인프라를 위한 NVIDIA DSX MaxLPS 기능을 탐색하고 있으며, 이는 사용 가능한 데이터센터 전력 예산 내에서 와트당 성능을 최적화하고 용량을 확장하는 데 도움을 줄 것입니다.
NVIDIA Vera Rubin과 Google Cloud A5X 인스턴스에 대해 자세히 알아보세요.
📄 원문 (English)
General availability of the instances is coming next month, with planned expansion of availability to Europe — bringing an integrated platform for training, inference and large-scale reinforcement learning to cloud customers.
A5X instances bring together NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network and Google Cloud’s fourth-generation advanced liquid-cooling technology for demanding agentic inference and reinforcement learning workloads at scale. Google Cloud plans to scale its Vera Rubin-based infrastructure to as many as 960,000 Rubin GPUs across multiple sites.
Ineffable Intelligence, a London-based technology company founded by AlphaGo creator David Silver, was the first customer to access A5X. Ineffable is using the platform to advance large-scale reinforcement learning and shape “superlearner” systems that learn continuously from experience.
Learning through interaction requires a continuous cycle of generating experience, evaluating outcomes and updating models, requiring infrastructure that can support the entire process at scale. A5X brings Vera Rubin into Google Cloud’s AI Hypercomputer as an integrated system, combining compute, networking and storage to support experience-driven learning at scale.
“We’re building superlearners that continually improve through their own experience,” said David Silver, founder and CEO of Ineffable Intelligence. “That demands both substantial compute and a tight connection between generating experience and training on it, so each improvement in the agent can quickly shape its next experience. Vera Rubin’s combination of compute performance and high-bandwidth connectivity, between the Vera CPU and Rubin GPUs and between the Rubin GPUs within the rack, allow us to push the scale and ambition of our reinforcement learning research further.”
WPP, a London-based marketing and communications company, has also demonstrated its creative agent reference architecture on NVIDIA Vera Rubin-based A5X instances using NVIDIA Nemotron models and NVIDIA OpenShell, part of the NVIDIA OpenShell Reference Architecture for safe AI agents.
The agents turn conversational requests into multistep creative workflows, such as video generation, upscaling and restyling, with human approval before execution. OpenShell provides governed sandboxes for agent execution, helping control access to sensitive brand assets and creative tools. In WPP’s initial tests, workloads that typically required a multi-node cluster ran on a single A5X instance.
As organizations deploy agentic systems, they need to protect the proprietary models and sensitive data that power these systems — even when running on infrastructure they don’t own.
Google Cloud will be among the first cloud providers to offer NVIDIA Confidential Computing at rack scale on bare metal instances such as A4X Max instances powered by NVIDIA GB300 NVL72. Additionally, Google Cloud is making Confidential Computing generally available on G4 VMs powered by NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs, offering a flexible platform for confidential inference and fine-tuning. Customers including Vertebrae, Polaris Cloud and Confidential Core AI are using Confidential G4 for conversational privacy, verifiable agent execution and policy-governed enterprise intelligence.
To support energy-efficient deployment at scale, Google Cloud and NVIDIA are exploring NVIDIA DSX MaxLPS capabilities for Vera Rubin-based infrastructure to help optimize performance per watt and expand capacity within available data-center power budgets.
Learn more about NVIDIA Vera Rubin and Google Cloud A5X instances.
▶ 칩 라이브 24 홈으로 — chiplive24.com