엔비디아, 중국 대상 해외 클라우드 AI GPU 렌탈 단속 강화
🇰🇷 한글 번역
중국 내 해외 클라우드 AI GPU 대여에 대한 엔비디아의 단속 강화 — 파트너사는 중국계 기업 비중이 51%를 초과할 수 없으며, 블랙마켓의 B300 랙 가격은 280만 달러로 급등
해외에서 대여하거나 규정을 준수하는 카드를 구매하라: 엔비디아 컴퓨팅에 접근하는 중국의 두 가지 경로 모두 공급 부족에 직면해 있다.
엔비디아 기반 컴퓨팅은 중국 AI 연구소들에게 두 가지 주요 경로, 즉 수출 규정 준수 카드 구매와 해외 대여 모두에서 희소해지고 비싸지고 있으며, 파이낸셜 타임스(FT)는 엔비디아 자체의 단속이 그 이유 중 하나라고 보도했다. 엔비디아는 전 세계 클라우드 파트너들에게 서비스의 최소 51%는 중국계 기업이 아닌 기업에게 제공해야 한다고 통보했으며, 중국 기업들은 올해 이 부족분을 메우기 위해 100만 장 이상의 엔비디아 게이밍 및 워크스테이션 카드를 구매했다. 한편, 국제적으로 약 60만 달러에 판매되는 B300 랙이 지난달 중국에서는 280만 달러에 거래된 것으로 알려졌다.
중국 고객들은 엔비디아의 수출 규정 준수 RTX Pro 5500 카드 600만 장 이상을 주문했다. 이는 엔비디아가 2027년에 제조할 수 있는 것으로 알려진 300만 장의 최소 두 배에 달하는 수치다. 한 소식통은 CNBC에 모션샷(Moonshot)이 중국계 기업이 아닌 다른 실체에 비해 선불 금액을 30%에서 50% 더 많이 지불하자는 제안이 있었다고 전했다.
많은 중국 기업들은 모델 학습을 포함한 고급 AI 작업을 위해 해외 리스를 활용해 왔으며, 이러한 기술 그룹들은 동남아시아 데이터 센터의 최대 고객이었다. 중국계 고객이 없는 데이터 센터는 공급을 축소해야 할 수도 있으며, 싱가포르에 기반을 둔 한 그룹은 FT에 "미국 외 지역에서 충분한 중국계 고객을 찾는 것은 어렵다"고 말했다. 엔비디아는 새로운 규정을 확인하거나 부인하지 않았지만, 이를 시행하면 중국 수요가 증가하는 시기에 미국 의회원들의 비판을 완화하는 효과가 있을 수 있다.
엔비디아가 파트너들에게 전달한 내용은 영업 및 지역 팀을 통해 구두 지시로 전달되었으며, 아시아뿐만 아니라 전 세계적으로 적용된다. 기존 계약과 리스는 변경되지 않지만, 새로운 계약은 규정을 준수해야 한다. 엔비디아의 화이트리스트는 인증된 아시아 구매자 수를 절반 이상 줄였으며, 이는 중국계 그룹들이 스미싱(밀수)을 포함한 다른 옵션보다 리스를 선택하도록 장려했다. 여기에 더해, 엔비디아 클라우드 파트너가 되기를 원하는 동남아시아 제공업체들은 이제 플릿 인텔리전스(Fleet Intelligence) 추적을 의무화해야 한다. 이러한 화이트리스트, 할당량 제한, 추적 조치의 조합은 미국의 우려를 완화하는 역할을 할 수 있다.
대여를 선택한 기업들 중 모션샷은 엔비디아 GPU를 보유한 유럽의 네오클라우드(neoclouds)로부터 용량을 대여하기 위해 논의해 왔다. 구체적으로 모션샷은 중국으로의 수출이 금지된 엔비디아 블랙웰 시스템을 찾고 있으며, 한 소식통은 이 논의가 유럽에 위치한 8,000개 이상의 블랙웰 GPU로 구성된 클러스터를 포함한다고 밝혔다. 이러한 클러스터는 추론 작업을 처리하여 최종 사용자에게 모델을 제공하며, 백악관이 모션샷이 태국 시설을 통해 블랙웰 칩에 접근했다고 발표한 이후 유럽에서의 논의가 이루어졌다. 모션샷은 더 많은 컴퓨팅 자원을 확보하려는 의지를 강하게 드러내고 있다.
모션샷만이 AI 학습을 위해 엔비디아 칩을 확보하려는 중국 기업이 아니다. 텐센트는 동남아시아 데이터 센터에서 10만 개의 GPU를 대여하기 위해 오라클과 계약을 체결했다. 바이트댄스와 알리바바도 유사한 장기 리스를 추진 중이며, 이러한 해외 데이터 센터 대부분은 금지된 B300과 같은 칩을 실행하고 있다. 미니맥스(MiniMax) 역시 모션샷과 마찬가지로 국내와 해외 모두에서 상당한 컴퓨팅 자원을 대여하고 있다.
주된 이유는 국내 AI 칩 공급이 그 임무를 감당할 수준이 아니기 때문이다. 비록 노력 부족 때문은 아니다. 화웨이는 올해 160만 개의 칩을 생산할 것으로 예상되며, 알리바바와 바이두는 각각 약 100만 개, 캄브리콘은 30만 개를 공급할 예정이다. 해외에서 생산된 약 100만 개를 포함해 올해 총 공급량은 최대 350만 개에 달할 것으로 보이지만, 수요는 500만 개를 훨씬 상회한다. 이 수요 수는 내년에는 두 배 이상으로 늘어날 수 있다.
문제의 일부는 중국 기업들이 주로 구매해 온 수출 규정 준수 카드들, 대부분 RTX Pro 6000D, RTX Pro 5000, RTX 5090 등이 프리필(prefill)과 같은 간단한 작업에는 유용하지만 그 이상은 아니라는 점이다. 그럼에도 불구하고 단종된 6000D의 중국 내 가격은 두 배로 뛰었다는 보도가 있다. 화웨이의 아센드 910C은 대부분의 영역에서 이들을 능가하지만, 이러한 저가형 옵션들은 여전히 선호되는데, 그 이유는 화웨이의 CANN보다 CUDA를 선호하기 때문이다. 엔비디아의 프로그래밍 플랫폼은 대부분의 AI 프레임워크와 라이브러리에서 지원되며, 많은 자체 코드가 이를 위해 최적화되어 있다.
그 다음으로 언급할 만한 것은 84GB의 ECC 지원 GDDR7 메모리와 1,398GB/s의 메모리 대역폭을 갖춘 RTX Pro 5500이다. 이 카드는 전체 PCIe Gen 5 x16 인터페이스에서 작동하며 최대 600W의 전력을 소비하고, 최대 두 개의 MIG 인스턴스로 분할할 수 있다. 그럼에도 불구하고 이 카드는 약 3.4배의 메모리와 5.7배의 대역폭, 그리고 5500이 누락한 NVLink를 갖춘 B300에는 크게 미치지 못한다.
중국 측의 지시된 주문은 정확하지 않지만, 300만 개가 넘는 바이트댄스, 알리바바, 텐센트의 주문을 포함해 총 600만 개 이상이다. 이 세 주요 기업은 각각 약 1만 1,400달러에 주문했으며, 총 스티커 가격은 350억 달러를 넘는다. 내년 생산량이 300만 개 미만일 수 있고 파트너들이 원래 요청량의 5%에서 10%만 실제로 받을 수 있을 경우, 이를 채우는 것은 어렵다. 2027년부터 엔비디아의 TSMC 생산 능력의 상당 부분이 루빈(Rubin)으로 전환되어 더 많은 생산량을 차지할 것이며, RTX Pro 5500의 초기 샘플은 12월에 출시될 예정이다.
법적 측면에서 보면, 현재 미국 법은 해외 클라우드 접근에 대해 규제당국에 광범위한 권한을 부여하지 않기 때문에 소유하는 것보다 임대하는 것이 더 쉽다. 이 분야에 미국의 수출 통제를 확장하는 원격 접근 보안법(RASA)은 하원을 통과했으나 상원에서 아직 통과되지 않았다. 직접적인 영향을 받는 신클라우드(neoclouds)와 관련 금융기관들은 가능한 금지를 전제로 가격을 책정하므로, 이로 인해 선불 프리미엄이 발생한다.
중국 측도 완전히 깨끗하지는 않다. 홍콩에서 본토로 출하되기를 기다리며 약 60만 개의 H200이 창고에 묶여 있다는 보도가 있다. 베이징은 이와 같은 대량 수입에 대한 승인을 보류하고 있다. 최근 몇 달 동안 일부 대형 인터넷 기업들에게는 비교적 소량만 유입되었으며, 다른 기업들은 중개자와 간접 경로를 통해 소량으로 들여왔다. 가격: 지난달 말 기준 중국에서 8개 카드 H200 서버는 90만 달러 이상으로, 1년 전보다 약 3배 비싸졌다. 이는 H200 판매가 이미 미국 라이선스 하에 있다는 사실에도 불구하고 일어난 일이다.
실제로 얼마나 많은 카드가 인도될지 보여주는 첫 번째 시험대는 2027년 1분기다. 이때 RTX Pro 5500이 상업적 납품을 시작할 것으로 예상된다. 임대 측면에서 원격 접근 보안법이 변수가 될지 여부는 아직 일정이 잡히지 않은 상원 투표에 달려 있다. 엔비디아의 3분기 실적 발표는 곧 11월 17일에 있을 예정이며, 이로 인해 일부 단서가 밝혀질 수 있다.
최근 중국 스파이의 표적이 됐다는 보도로 인해 감시 대상에 오른 엔비디아의 제슨 황 CEO는, 이제 이 사안을 조사 중인 엔비디아 이사회로부터 더 큰 압박을 받게 될 전망이다. 그로부터 이틀 뒤, 의원들이 그를 비공개 브리핑에 참석하도록 요청했기 때문이다. 그는 통제 완화를 주장해 왔고 더 많은 접근성을 요구해 왔기에, 가정된 51% 규칙 역시 시험대에 오르게 될 것이다.
Shane Downing은 Tom’s Hardware의 기고 작가로, 소비자 저장 장치, PC 하드웨어 및 AI를 다루고 있다.
📄 원문 (English)
Nvidia cracks down on overseas cloud AI GPU rentals for China — partners face 51% non-Chinese quota as black market B300 rack prices surge to $2.8 million
Rent abroad or buy compliant cards: both of China’s routes to Nvidia compute are running short.
Nvidia-based compute is getting scarce and expensive for Chinese AI labs on both of their main routes, buying export-compliant cards and renting abroad, and the Financial Times reports that Nvidia’s own crackdowns are part of the reason. Nvidia has told cloud partners worldwide that at least 51% of their services must go to non-Chinese firms, while Chinese companies have bought more than 1 million Nvidia gaming and workstation cards this year to cover the shortfall. Meanwhile, a B300 rack that sells for about $600,000 internationally reportedly fetched $2.8 million in China last month.
Chinese customers have ordered more than 6 million of Nvidia’s export-compliant RTX Pro 5500 cards. That is at least twice the 3 million that the company could reportedly manufacture in 2027. One source told CNBC that it was proposed that Moonshot pay 30% to 50% more upfront, in comparison to a non-Chinese entity.
Many Chinese groups have relied on overseas leases for advanced AI work, which can include model training, and these tech groups have been the biggest clients for data centers in Southeast Asia. Data centers unable to find non-Chinese clients could be forced to pull back supply, and it’s “difficult to find enough non-Chinese clients outside the US,” one Singapore-based group told the FT. While Nvidia hasn’t confirmed or denied its new rule, implementing it would ease criticism from U.S. lawmakers just as Chinese demand is growing.
What Nvidia told partners has come through verbal instructions, via sales and regional teams, and applies globally rather than just in Asia. Existing deals and leases are not changed, but new ones must comply. Nvidia’s whitelist more than halved its authorized Asian buyer count, which encouraged more Chinese groups to lease over other options, including smuggling. On top of this, Fleet Intelligence tracking is now required for Southeast Asian providers that want to become Nvidia Cloud Partners. All of these combined — whitelist, cap, and tracking — may act to alleviate U.S. concerns.
Among companies that have moved to renting, Moonshot has held discussions to rent capacity from neoclouds that host in Europe with Nvidia GPUs. Specifically, it’s looking for Nvidia Blackwell systems, which export controls bar from China; one source said the talks covered clusters of 8,000 or more Blackwell GPUs in Europe. These clusters would handle inference, serving models to end users, and the European talks for them happened after the White House said Moonshot accessed Blackwell chips through a facility in Thailand. The firm has been fervent about its intentions to secure more compute.
Moonshot isn't the only Chinese company looking to secure Nvidia chips for AI training. Tencent has a deal with Oracle to lease 100,000 GPUs in Southeast Asian data centers. ByteDance and Alibaba are also pursuing similar long-term leases, and most of these overseas data centers run chips like the forbidden B300. MiniMax, like Moonshot, also leases significant compute both at home and abroad.
The big reason is that domestic AI chip supply is simply not up to the task, although not for a lack of trying. Huawei is expected to hit 1.6 million chips this year, with about 1 million from Alibaba and Baidu, and 300,000 from Cambricon. Total supply this year will be up to 3.5 million, including about 1 million made overseas, against a demand that far exceeds 5 million. That number could more than double next year.
Part of the problem is that the export-compliant cards Chinese firms have been buying, mostly the RTX Pro 6000D, RTX Pro 5000, and RTX 5090, are mostly useful for simpler work such as prefill. Even so, the discontinued 6000D’s pricing in China has reportedly doubled. Huawei’s Ascend 910C outperforms them in most areas, but these lower-end options are still coveted, partly because of a preference for CUDA over Huawei’s CANN. Nvidia’s programming platform is supported by most AI frameworks and libraries, and much in-house code is optimized for it.
Then there’s the RTX Pro 5500, with 84GB of GDDR7 with ECC and 1,398 GB/s of memory bandwidth. The card runs on a full PCIe Gen 5 x16 interface, draws up to 600 W, and can be split into up to two MIG instances. That still leaves it well short of a B300, which has about 3.4 times the memory and 5.7 times the bandwidth, plus NVLink, which the 5500 lacks.
Indicated orders from China are not precise, but the total of over six million includes more than three million from ByteDance, Alibaba, and Tencent. The big three ordered at about $11,400 each, for a total sticker price over $35 billion. This is difficult to fill when there may be fewer than three million produced next year, and partners might only actually get 5% to 10% of the original ask. Starting in 2027, much of Nvidia’s TSMC capacity may shift to Rubin, taking more production, while the RTX Pro 5500’s early samples are due in December.
On the legal side, it’s currently easier to rent than to own as current U.S. law does not give regulators broad authority over overseas cloud access. The Remote Access Security Act (RASA), which would extend U.S. export controls to that area, has sailed through the House but has not yet passed the Senate. Those directly affected — neoclouds and related financiers — price in a possible ban regardless, which drives the upfront premium.
China’s side is not completely clean, either, with about 600,000 H200s reportedly stuck in storage in Hong Kong awaiting shipment to the mainland. Beijing is withholding approvals for large-volume imports such as this. Only relatively small quantities have come in during recent months, for some big internet companies, with others coming through intermediaries and indirect routes in small quantities. The price: over $900,000 for an eight-card H200 server in China at the end of last month, about 3x the cost a year ago. This is despite the fact that H200 sales are already under U.S. license.
The first test that will show how many cards will actually land occurs in Q1 2027, when the RTX Pro 5500 is expected in commercial deliveries. For rentals, whether or not the Remote Access Security Act is a factor depends on a Senate vote, which is not yet scheduled. Nvidia’s Q3 results come in soon, on Nov. 17, which could bring some illumination.
With CEO Jensen Huang under scrutiny lately over reports that he was targeted by an alleged Chinese spy, which Nvidia’s board is now investigating, he’s going to feel the heat even more just a day later, when lawmakers have asked him to attend a closed-door briefing. He’s been pushing for laxer controls and more access, so the assumed 51% rule will also be put to the test.
Shane Downing is a Contributing Writer for Tom’s Hardware, covering consumer storage, PC hardware, and AI.
▶ 칩 라이브 24 홈으로 — chiplive24.com