엔비디아, 내년 CPO로 576개 루빈 울트라 GPU 연결…세계 최고 와트당 성능의 초대형 GPU로 10조 파라미터 AI 모델 구동
🇰🇷 한글 번역
엔비디아의 루빈 울트라(Rubin Ultra) GPU는 차세대 CPO(광집적회소자) 및 NVLink 기술을 사용해 모두 연결된 거대한 576개 GPU 랙 규모 솔루션으로 제공된다.
엔비디아, 루빈 울트라 GPU로 CPO에 모든 것을 걸고 랙을 576개 칩으로 확장해 단일 GPU처럼 작동하며 최고 성능/와트비 달성
루빈 울تر는 루빈을 이어받는 플랫폼으로, 모든 것을 한 단계 더 끌어올린다. 베라 루빈(Vera Rubin) 'VR200' 플랫폼이 오버논 NVL72 서버를 기반으로 하는 반면, 베라 루빈 울트라는 더 큰 키버(Kyber) 랙에 탑재될 예정이며, 이는 완전한 액체 냉각 설계다.
GTC에서 엔비디아가 공개한 공식 사양에 따르면, 루빈 울트라 NVL576은 FP4(추론) 성능 15 엑사플롭, FP8(학습) 성능 5 엑사플롭을 제공한다. 이는 블랙웰 GB300 NVL72 대비 14배 증가한 수치다.
메모리 측면에서 루빈 울트라는 4-reticle 크기의 GPU에 최대 1TB의 HBM4E 메모리를 탑재해 메모리를 8배 확장하며, 랙당 365TB의 HBM을 통해 4.6PB/s의 대역폭을 제공한다. 또한 이 플랫폼은 차세대 1.5PB/s NVLink7 인터커넥트와 115.2TB/s의 새로운 ConnectX-9 스펙트럼 칩을 제공한다.
엔비디아가 루빈 울트라 디자인을 축소할 것이라는 루머가 있었지만, 회사는 후속 연락을 통해 "고객에게 최고의 성능과 효율성을 제공하기 위해 컴퓨팅, 네트워킹, 메모리를 지속적으로 최적화하고 있다"고 밝혔다.
OCP 2026에서 엔비디아의 이안 버크(Ian Buck)는 루빈 울트라와 관련된 새로운 정보를 추가로 공개했다. 이안은 키버 랙 내의 모든 576개 GPU가 NVLink로 연결되어 하나의 단위로 작동하며, 이는 세계에서 가장 빠른 GPU이자 와트당 최고 성능을 자랑한다고 밝혔다.
베라 루빈 울트라 컴퓨트 트레이는 두 개의 루빈 울트라 GPU와 하나의 베라 CPU를 포함하며, 모두 액체 냉각된다. 엔비디아는 또한 NVLink 7 CPO 스위치 트레이를 처음 공개했다.
또한 이 설계는 OCP(오픈 컴퓨트 프로젝트) 표준을 기반으로 한다. 베라 루빈에서 도입된 모듈식 및 간편 플러그인 설계를 활용하여 설치 시간을 시간 단위에서 분 단위로 단축한다.
우리는 이미 차세대를 위해 작업 중이며, 여기 베라-리본 울트라(Vera-Ribbon Ultra)의 미리보기가 있다. 이는 단일 랙에 72개의 GPU가 아니라 실제로 NVLink로 연결된 576개의 GPU로 구성된다.
이는 차세대 NVLink CPO 스위치 트레이를 사용하며, 여기 사진과 함께 차세대 베라-리본 트레이도 보인다. 여기서 몇 가지 유사점을 발견할 수 있을 것이다. 이는 모두 OCP 표준을 기반으로 하며, 실제로 CPO 네트워킹을 통해 모든 GPU와 개별 랙들을 연결하여 NVLink로 모두 연결된 거대한 576개 GPU를 하나의 시스템으로 구축할 것이다.
여기에는 광 엔진들을 연결하는 작은 노란색 광섬유들이 있다. 이는 세계에서 와트당 최고 성능을 자랑하는 NVLink 거대 GPU이며, 내년 우리가 도달하게 될 1조 파라미터 모델을 즐길 수 있도록 설계되었다.
- 이안 버크, 엔비디아 하이퍼스케일 및 고성능 컴퓨팅(HPC) 부문 부사장 겸 총괄 매니저
동등하게 중요한 사실은 각 랙에 차세대 NVLink CPO 스위치 트레이가 탑재된다는 점이다. 엔비디아의 제슨 황(Jensen Huang) CEO는 GTC 베를린에서 CPO 랙이 이제 양산 단계에 들어섰다고 발표하며, CPO 지연에 대한 보도를 일축했다. 차세대 엔비디아 광학 솔루션은 훨씬 더 빠를 것이며, 루빈 울트라는 이 기술을 완전히 활용할 첫 번째 랙 수준 시스템 설계가 될 것이다. 이는 향후 업계 표준이 될 것이다.
엔비디아의 루빈 울트라 NVL576 GPU는 10조 개 이상의 파라미터 범위에 머무는 거대한 AI 모델을 처리하도록 설계될 것이다. 이러한 배포에는 막대한 자본 지출이 필요하며, 엔비디아는 배포 기간을 개월 단위에서 단 14일로 줄이는 DSX 팟과 같은 참조 설계를 제공함으로써 선두를 달리고 있다.
엔비디아의 루빈 울트라는 차세대 NVLink와 CPO 광학을 기반으로 하여 전체 576개 GPU 액체 냉각 랙을 하나의 일관된 슈퍼칩으로 취급하는 방향으로 결정적인 도약을 의미한다.
거대한 규모, 극한의 효율성, 그리고 OCP 기반의 모듈식 설계를 결합함으로써, 루빈 울트라는 10조 파라미터 모델을 위해 필요한 와트당 성능과 신속한 배포 기반을 제공하여 엔비디아를 위치시키면서, 동시에 CPO를 업계의 새로운 인터커넥트 표준으로 확립한다.
더 많은 뉴스 커버리지를 피드에서 받아보려면 Wccftech를 구글에서 팔로우하라.
📄 원문 (English)
NVIDIA's Rubin Ultra GPUs will come in a massive 576-GPU rack-scale solution, all connected using next-gen CPO and NVLINK technologies.
NVIDIA Is Going All-In On CPO With Rubin Ultra GPUs, Scaling Racks To 576 Chips That Act As A Single GPU With The Highest Performance/Watt
Rubin Ultra is the platform that follows Rubin and takes everything a step further. While Vera Rubin "VR200" platforms are based around the Oberon NVL72 servers, Vera Rubin Ultra will be featured on the bigger Kyber rack, which is a fully liquid-cooled design.
As per the official specifications unveiled by NVIDIA during GTC, Rubin Ultra NVL576 will offer 15 Exaflops of FP4 (Inference) and 5 Exaflops of FP8 (training) performance. That's a 14x bump over Blackwell GB300 NVL72.
On the memory front, Rubin Ultra will feature up to 1 TB of HBM4E memory across a 4-reticle-sized GPU, which scales the memory by 8x, pushing out 4.6 PB/s bandwidth across 365 TB HBM per rack. Additionally, the platform will offer a next-gen 1.5 PB/s NVLink7 interconnect and a new ConnectX-9 Spectrum chip with 115.2 TB/s.
While there were rumors that NVIDIA might scale back its design for Rubin Ultra, the company told us in a follow-up that it “Continually optimizes compute, networking, memory” To deliver the best Performance & Efficiency to its customers.
During OCP 2026, NVIDIA's Ian Buck further disclosed some new information around Rubin Ultra. Ian states that all 576 GPUs inside the Kyber Rack will be connected with NVLink and work as one unit, making it the fastest GPU and the one with the highest performance per watt on the planet.
The Vera Rubin Ultra Compute Tray packs two Rubin Ultra GPUs and a single Vera CPU, all liquid-cooled. NVIDIA also showcases its NVLink 7 CPO Switch Tray for the first time.
Furthermore, the design will be based on the OCP standards. It leverages the same modular and easy plug design that has been introduced with Vera Rubin, dropping the installation time from hours to minutes.
We're already working on the next generation. Here's a sneak peek of Vera-Ribbon Ultra. This actually is not 72 GPUs in a single rack, but actually 576 GPUs that are all NVLink connector.
This is using our next generation NVLink CPO switch tray, and I have a picture of it here, along with our next generation Vera-Ribbon tray. You may notice some similarities here. This is all based on the OCP standards and it's actually going to be connecting all of those GPUs and all of those individual racks together with CPO networking to build one giant 576 GPUs all connected with NVLink.
There's little yellow fibers there connecting those optical engines. This will be the highest performance per watt NVLink giant GPU on the planet, and is designed to take us to 10 trillion parameter models to enjoy when we get there next year.
Ian Buck - NVIDIA Vice President and General Manager of Hyperscale and High-Performance Computing (HPC)
Equally significant is the fact that each rack will feature the next-generation NVLink CPO switch tray. NVIDIA's CEO, Jensen Huang, just announced during GTC Berlin that CPO racks are now in volume production, squashing reports of CPO delays. Next-generation NVIDIA optics solutions will be way faster, and Rubin Ultra will be the first rack-level system design to make full use of this technology, which is going to become the industry standard moving forward.
NVIDIA's Rubin Ultra NVL576 GPUs will be designed to tackle massive AI models, hovering in the 10 Trillion+ parameter range. Such deployments will require massive CapEx spending, & NVIDIA is leading from the front by delivering reference designs like the DSX Pod, which takes deployment times and shrinks them from months to just 14 days.
NVIDIA’s Rubin Ultra marks a decisive leap toward treating an entire 576-GPU liquid-cooled rack as one coherent superchip, powered by next-generation NVLink and CPO optics.
By fusing massive scale, extreme efficiency, and OCP-based modular design, it positions NVIDIA to deliver the performance-per-watt and rapid-deployment foundation required for 10-trillion-parameter models—while establishing CPO as the industry’s new interconnect standard.
Follow Wccftech on Google to get more of our news coverage in your feeds.
▶ 칩 라이브 24 홈으로 — chiplive24.com