데이터센터, 차세대 AI 병목 현상 대비 안 돼…엔비디아 '카이버 랙' 전력 소모량 가정 500가구 수준
🇰🇷 한글 번역
최근 몇 년간 AI 하드웨어는 눈이 휘둥그레질 정도로 빠른 속도로 진화해 왔으며, 이는 DRAM 부족 사태로 소비자에게 고통을 안겨주는 결과를 초래했습니다. 그러나 데이터 센터나 정부들이 대처할 준비가 되어 있지 않은 훨씬 더 큰 문제가 코앞에 다가와 있습니다. 그것은 바로 전력 인프라 문제입니다. 최전선 AI 모델들이 더 큰 클러스터에서 학습되기를 요구함에 따라 전력 밀도는 경이로운 수준으로 증가하고 있습니다.
최신 시각 자료는 루빈 울트라(NVL576) 플랫폼을 기반으로 구축된 엔비디아의 차기 키버(Kyber) 랙 시스템을 강조하며, 그 수치는 기업용 서버 농장에게 looming( looming은 looming crisis를 의미하는 것으로 보임) 위기를 드러냅니다. 당신의 발을 땅에서 떨어뜨릴 만한 숫자는 다음과 같습니다. 단일 키버 랙은 놀라운 600kW의 지속 전력을 필요로 하며, 이는 약 500명의 평균 미국 가구의 전력 소비량과 맞먹습니다.
2024년의 서버 랙은 단지 8kW만 필요로 했기 때문에, 전력 소비량 측면에서 엔비디아의 키버 시스템은 위협적입니다.
제시 동(Jessie Dong)이 공유한 그래프 형태의 추산치는 successive(연속적인) 엔비디아 GPU 아키텍처 전반에 걸친 전력 소비의 지수적 증가를 보여주며, 고성능 컴퓨팅의 전력 요구량 방향성에 대해 암울한 그림을 제시합니다. 상기시켜 드리자면, 2022년에 일반적인 고밀도 엔비디아 호퍼(Hopper) 랙은 약 40kW를 소비했습니다. 2024년에는 블랙웰(NVL72) 아키텍처가 이 한계를 약 120kW로 끌어올렸습니다.
키버는 2027년 하반기에 출시될 예정이며, 전력 요구량은 캐비닛당 거대한 600kW로 뛰게 되어 블랙웰 대비 5배 증가하고, 표준 8kW 기업용 서버 랙보다 75배 더 많은 전력을 끌어오게 됩니다. 메모리 부족 사태의 경우 주요 기업들은 몇 년에 걸쳐 생산 능력을 높여 수요를 어느 정도 해소할 수 있지만, 이는 완전히 새로운 차원의 문제입니다.
이러한 수준의 전력을 공급하는 것은 단순히 지역 유틸리티 제공업체로부터 그리드 용량을 확보하는 것보다 훨씬 미묘합니다. 현대 데이터 센터 운영자들은 기존 시설을 개조하여 개별 랙 공간에 600kW를 직접 공급하는 것이 사실상 불가능하기 때문에 심각한 내부 배송 병목 현상에 직면해 있습니다. 아마존은 이미 GB300 랙 납품에 50억 달러를 지출한 것으로 추정되지만, 인프라가 그러한 부하를 감당할 준비가 되어 있지 않아 이러한 AI GPU에 전력을 공급할 방법이 없습니다.
문제는 아마존에만 국한되지 않습니다. 가장 큰 AI 연구소들은 항상 최신 아키텍처를 먼저 선점하기 때문에, 최전선 AI 수익을 확보하려는 데이터 센터 운영자들은 먼저 목적에 맞게 설계된 시설을 처음부터 건설해야 합니다. 우리는 2025년에 이미 AI 데이터 센터 붐이 너무 거대하여 국가 전력 그리드가 병목 상태에 있다고 보도한 바 있으며, 600kW의 전력이 필요하다는 점은 초거대 기업들에게 주요 경고 신호를 보내고 있습니다.
미래의 데이터 센터가 전력 본선부터 냉각 매니폴드까지 완전히 재설계되지 않는다면, 차세대 생성형 AI는 부팅할 충분한 전력을 확보하지 못한 채 고립될 것입니다.
더 많은 뉴스 커버리지를 피드에서 받아보시려면 Wccftech를 Google에서 팔로우하세요.
📄 원문 (English)
AI hardware has continued to evolve at a dizzying pace over the past few years, resulting in creating misery for consumers as far as the DRAM shortage goes, but there could be an even bigger problem on the horizon that data centers or governments simply aren’t equipped to handle; addressing the power infrastructure. As frontier AI models demand larger clusters to be trained on, the power density is scaling to mind-boggling heights.
The latest visual data highlights NVIDIA’s upcoming Kyber rack system, built around the Rubin Ultra NVL576 platform, and the numbers reveal a looming crisis for enterprise server farms. Here’s the figure that’ll knock your socks off; a single Kyber rack will require an astonishing 600kW of continuous electricity, making it equivalent to the power draw of roughly 500 average American households
Server racks in 2024 only required 8kW, making NVIDIA’s Kyber system a menace when it comes to guzzling power requirements
An estimation in the form of a graph was shared by Jessie Dong showing the exponential rise in power consumption across successive NVIDIA GPU architectures, painting a grim picture regarding the direction of power requirements for high-performance computing. To remind you, in 2022, a typical high-density NVIDIA Hopper rack consumed roughly 40kW. By 2024, the Blackwell NVL72 architecture pushed that limit to around 120kW.
With Kyber slated to arrive in the second half of 2027, power requirements will leap to a mammoth 600kW per cabinet, resulting in a staggering 5x increase over Blackwell and pulling 75 times more juice than a standard 8kW enterprise server rack. With the memory shortage, the primary players can simply raise their production capacity over several years, addressing demand to some extent, but this is a whole new league of problems.
Supplying this level of electricity is far more nuanced than simply securing grid capacity from local utility providers. Modern data center operators are encountering severe internal delivery bottlenecks because retrofitting existing facilities to deliver 600kW directly to individual rack footprints is practically impossible. Amazon is estimated to have already paid $5 billion in GB300 rack deliveries, but it has no way to power these AI GPUs because the infrastructure is simply unprepared to handle such a load.
The problem doesn’t stop at Amazon either, because the largest AI labs always snap up the newest architectures first, meaning data center operators hoping to capture frontier AI revenues must first construct purpose-built facilities from the ground up. We’ve previously reported in 2025 that the AI data center boom is so massive that the national power grid is in a bottleneck state, and with 600kW of juice required, a major warning is being sent to hyperscalers.
Unless future data centers are completely re-architected from the power mains to the cooling manifolds, the next wave of generative AI will find itself stranded without enough power to boot.
Follow Wccftech on Google to get more of our news coverage in your feeds.
▶ 칩 라이브 24 홈으로 — chiplive24.com