AMD, SC26에서 엔비디아의 FP64 에뮬레이션 공격…인스틴트 MI430X의 네이티브 더블정밀도 강조, 오자키 방식은 HPC 워크로드의 10% 미만만 지원하고 메모리 3배 사용·에뮬레이션 FP64는 부적합 주장
🇰🇷 한글 번역
AMD, SC26에서 Nvidia의 FP64 에뮬레이션 공격, Instinct MI430X의 네이티브 더블 정밀도 강조 — 오자키 방식이 HPC 워크로드의 10% 미만에만 적합하며 메모리 사용량이 3배 증가하고 에뮬레이션된 FP64는 많은 HPC 워크로드에 부적합하다고 주장
AMD는 FP64가 필요할 때 오자키 FP64 에뮬레이션은 실제 네이티브 처리를 대체할 수 없다고 밝혔다.
이번 주 시카고에서 슈퍼컴퓨팅 2026(SC26)가 개막함에 따라, AMD는 데이터센터 GPU 제품에서 네이티브 FP64 데이터 타입 지원 부재와 관련해 Nvidia를 간접적으로 비판하고 있다. FP64(더블 정밀도 부동소수점 연산)는 SC26의 초점인 고성능 과학 컴퓨팅 및 시뮬레이션 분야에서 널리 사용된다. 이러한 고객들을 위해 AMD는 국가 연구소나 슈퍼컴퓨팅 센터처럼 여전히 네이티브 FP64가 필요한 고객을 대상으로 최신 Instinct MI430X 가속기의 가치를 홍보하고 있다.
과거 몇 년간 Nvidia는 데이터센터 GPU의 다이 면적을 재배분하여 현대 AI 추론에 필요한 연산을 대폭 향상시키는 저정밀도 행렬 연산에 유리하도록 했다. AI 컴퓨팅의 총 주소 가능 시장이 폭발적으로 증가하는 동안 대규모 슈퍼컴퓨팅 설치 환경에서의 더블 정밀도 연산 수요는 상대적으로 정체되었기 때문에 이러한 재배분은 비즈니스적으로 합리적이다.
네이티브 FP64 지원 부재를 보완하기 위해 Nvidia는 오자키 방식(Ozaki schemes)과 같은 방법을 사용하여 FP64 연산을 에뮬레이션하는 기술을 도입했다. 그러나 AMD는 이러한 에뮬레이션이 네이티브 더블 정밀도 처리를 대체하기에는 여러 가지 이유로 적합하지 않다고 주장하며, MI430X와 같은 특수 제품의 지속적인 개발 필요성을 강조한다.
첫째, AMD는 오자키 에뮬레이션이 대상 워크로드가 밀집 일반 행렬 곱셈(GEMM)과 유사하다고 가정한다고 지적한다. 동사의 자체 애플리케이션 프로파일링에 따르면 HPC 워크로드의 "10% 미만"만이 밀집 GEMM 연산을 수행하므로, 이 에뮬레이션은 네이티브 컴퓨팅을 대체하기에 좋은 선택이 아니다. AMD는 밀집 선형 대수가 오자키 에뮬레이션에 자연스럽게 적합한 유일한 공통 워크로드라고 말한다.
AMD는 희소 반복 선형 대수, 스텐실 및 유체역학, 고차 유한 요소 해석, 몬테카를로 및 입자 수송, 고전적 분자 동역학 등의 워크로드에서는 최적의 결과를 위해 개발자들이 여전히 강력한 FP64 벡터 성능이 필요하다고 말한다.
또한, GEMM 연산에 잘 매핑되는 워크로드의 경우라도 AMD는 최적의 성능을 달성하려면 행렬 크기가 커야 하며, 모든 연산에서 이것이 보장되는 것은 아니라고 말한다. 이러한 행렬의 피연산자도 하드웨어에 맞게 적절히 크기가 조정되어야 하는데, 잘못 스케일링된 피연산자는 성능 저하를 초래할 수 있다. 반면 MI430X의 FP64 벡터 연산 능력은 이러한 피연산자 크기 조정 문제에 영향을 받지 않는다.
이러한 장애물 외에도 AMD는 오자키 에뮬레이션 방법을 사용하면 애플리케이션의 메모리 사용량이 급증하여 네이티브 FP64보다 최대 3배 더 많은 용량이 필요할 수 있다고 지적한다.
현대 슈퍼컴퓨팅 설치 환경에서 HBM 용량은 GPU와 직접적으로 연결되어 있으므로, FP64 연산만 에뮬레이션할 수 있는 머신에 워크로드를 맞추는 것은 필요한 GPU 및 컴퓨팅 노드 수에 연쇄적인 영향을 미쳐 시스템 지원을 위한 바닥 면적, 전력 및 냉각 요구 사항에 추가적인 과제를 초래할 수 있다.
AMD는 노드당 432GB의 대용량 HBM4 메모리를 탑재한 MI430X가 고객들이 시스템 내 필요한 GPU 및 컴퓨팅 노드 수를 줄일 수 있게 하여 네트워킹, 전력 및 바닥 면적 비용을 절감할 수 있다고 말한다.
AMD는 FP64 HPC 성능 외에도 MI430X를 탑재한 슈퍼컴퓨터를 연구 과정에서 이러한 모델을 활용하는 워크로드를 위한 AI 추론 플랫폼으로 포지셔닝하고 있다. 하지만 동일한 CDNA 5 아키텍처 계열에서 나온 MI455X GPU로 구동되는 Helios 랙 규모 가속기 시스템과 이들 사이에는 몇 가지 중요한 차이가 있다.
각 MI430X GPU는 추론을 위해 이론상 9.2 PFLOPS의 FP4 연산 성능을 제공하지만, 이는 각 AI 전용 MI455X 가속기가 제공하는 놀라운 40.3 PFLOPS의 FP4 연산 성능이라는 맥락에서 이해해야 한다.
순수 성능 외에도, AMD의 Infinity Fabric 인터커넥트를 통해 여섯 번째 세대 EPYC 호스트 CPU와 결합된 네 개의 MI430X로 구성된 네이티브 스케일업 도메인 크기는 Helios 랙 내 72개의 MI455X 가속기로 이루어진 도메인 크기와 비교할 바가 못 된다. AMD는 이 인터커넥트가 방대한 스케일업 도메인보다는 지연 시간 민감형 작업에 더 최적화되어 있다고 말한다.
물론 이러한 시스템의 모든 고객과 사용자는 서로 다른 요구사항을 가지고 있으며, 기관용 슈퍼컴퓨팅 설비들은 일반적으로 클라우드 추론 제공업체로서의 이중 역할을 수행하려고 하지 않는다.
선택한 AI 모델이 이러한 노드 내에서 12.3 Tbps의 스케일업 대역폭을 통해 함께 작동하는 네 개의 MI430X가 제공하는 총 1.72 TB의 HBM4 용량과 93.2 TB/s의 메모리 대역폭 내에서 잘 작동하는 과학자와 엔지니어들에게는 각 노드의 추론 성능이 부동소수점 64비트 연산 워크로드와 함께 실행해야 하는 종류의 AI 애플리케이션에 충분히 적합할 가능성이 높다.
어쨌든 MI430X는 이미 여러 슈퍼컴퓨팅 설계 승리를 확보하고 있다. 오크 리지 국립연구소의 다가오는 Discovery 슈퍼컴퓨터, 프랑스의 Alice Recoque 설비, 핀란드 CSC의 LUMI-AI 시스템, 그리고 독일의 Herder 시스템은 모두 MI430X가 제공하는 네이티브 FP64 지원을 활용할 것이다.
제품들에서 해당 기능을 후퇴시키는 엔비디아와 달리 AMD가 네이티브 FP64를 지속적으로 지원하는 것은 아마도 그 설계자들과 엔지니어들에게 자부심의 원인이 될 것이며, 이러한 기관용 슈퍼컴퓨터들은 전 세계적으로 AMD와 엔비디아 기반 AI 추론 설비에 비해 작아질 것이다. 회사의 맞춤형 반도체 설계 역량과 칩렛 경험은 일률적인 접근법을 추구하기보다는 MI430X와 같은 제품을 이러한 특수 시장에 맞게 조정하는 데 필요한 유연성을 제공한다.
Tom's Hardware의 수석 그래픽 애널리스트인 제프 캠프먼은 그래픽 카드, 게임 성능 등 그래픽 관련 모든 사항을 다루고 있다. 내장 그래픽 프로세서부터 디스크리트 그래픽 카드, 그리고 우리의 AI 미래를 powering하는 초대규모 설비에 이르기까지, GPU가 탑재된 것이라면 제프는 모두를 커버한다.
📄 원문 (English)
AMD attacks Nvidia's FP64 emulation at SC26, touts native double-precision on Instinct MI430X — says Ozaki schemes fit less than 10% of HPC workloads and triple memory use and emulated FP64 is a poor fit for many HPC workloads
AMD says Ozaki FP64 emulation is no replacement for the real thing when it's needed.
As Supercomputing 2026 (SC26) opens in Chicago this week, AMD is indirectly needling Nvidia about the lack of native FP64 data type support in its data center GPU products. FP64, or double-precision floating-point math, is widely used in the high-performance scientific computing and simulation fields that are the focus of SC26. For those customers, AMD is trumpeting the value of its latest Instinct MI430X accelerator for customers that still need native FP64, like national laboratories and supercomputing centers.
Over the past few years, Nvidia has reallocated die area on its data center GPUs to favor the lower-precision matrix math that boosts the operations needed for much of modern AI inference. That reallocation only makes business sense, as the total addressable market for AI compute has exploded while the demand for double-precision math in large supercomputing installations has remained flat by comparison.
To make up for the lack of native FP64 support, Nvidia has turned to techniques that allow it to emulate FP64 operations using methods like the Ozaki schemes. But AMD claims this kind of emulation is nowhere close to a replacement for native double-precision processing for a few reasons—hence continued development of specialized products like the MI430X.
For one, AMD notes that Ozaki emulation assumes that the workload in question resembles a dense general matrix multiply (GEMM). In its own application profiling, the company says "less than 10%" of HPC workloads perform dense GEMM operations, so this emulation is a good replacement for native compute. Dense linear algebra is the one common workload for which AMD says Ozaki emulation is a natural fit.
For workloads like sparse iterative linear algebra, stencils and hydrodynamics, high-order finite element analysis, Monte Carlo and particle transport, and classical molecular dynamics, AMD says developers still need strong FP64 vector performance for the best results.
Furthermore, even for workloads that map well onto GEMM operations, AMD says matrix sizes must be large in order to achieve the best performance, and that might also not be a given for every operation. The operands of those matrices also have to be sized well to the hardware, as incorrectly scaled operands can reduce performance. The FP64 vector math capabilities of the MI430X are insensitive to those operand sizing issues.
Beyond those stumbling blocks, AMD also notes that using Ozaki emulation methods can cause the memory footprint of an application to balloon, requiring up to three times more capacity than native FP64 would.
Since HBM capacity is directly tied to GPUs in modern supercomputing installations, fitting a workload to a machine that can only emulate FP64 operations could have cascading effects on the number of GPUs and compute nodes required, causing knock-on challenges for the floor area, power, and cooling required to support the system.
AMD says the high 432GB of HBM4 memory capacity per MI430X node allows its customers to provision fewer GPUs and compute nodes in a system, saving on networking, power, and floor space.
In addition to its FP64 HPC performance, AMD positions an MI430X-powered supercomputer as an AI inference platform for developing workloads that utilize those models as part of the research process. But there are some key differences between those systems and the Helios rack-scale accelerator powered by MI455X GPUs from the same CDNA 5 architectural family.
Each MI430X GPU offers 9.2 PFLOPS of theoretical FP4 compute performance for inference, but that should be understood in the context of the whopping 40.3 PFLOPS of FP4 compute from each AI-focused MI455X accelerator.
Beyond raw performance, the native scale-up domain size of four MI430Xs over AMD’s Infinity Fabric interconnect when coupled with a sixth-generation EPYC host CPU pales in comparison to the domain size of 72 MI455X accelerators in a Helios rack. AMD says this interconnect is optimized more for latency-sensitive operations rather than a massive scale-up domain.
Of course, every customer and user of such a system will have different requirements, and institutional supercomputing installations usually aren’t trying to do double duty as cloud inference providers.
For scientists and engineers whose AI models of choice work well within the 1.72 TB of aggregate HBM4 capacity and 93.2 TB/s of memory bandwidth offered by four MI430X's working together across the 12.3 Tbps of scale-up bandwidth available within such a node, the inference performance of each node is likely more than up to the task of the kinds of AI applications that need to be run alongside double-precision compute workloads.
In any event, the MI430X can already count several supercomputing design wins in its corner. The upcoming Discovery supercomputer at Oak Ridge National Laboratory, the Alice Recoque installation in France, the LUMI-AI system at Finland’s CSC, and the Herder system in Germany will all take advantage of the native FP64 support offered by the MI430X.
AMD’s continued support for native FP64, even as Nvidia retreats from that capability in its products, will doubtless be a point of pride for its architects and engineers, even as those institutional supercomputers will be dwarfed by both AMD and Nvidia-powered AI inference installations the world over. The company's semi-custom silicon design chops and chiplet experience give it the flexibility needed to tailor products like the MI430X to these specialized markets instead of pursuing a one-size-fits-all approach.
As the Senior Analyst, Graphics at Tom's Hardware, Jeff Kampman covers everything that has to do with graphics cards, gaming performance, and more. From integrated graphics processors to discrete graphics cards to the hyperscale installations powering our AI future, if it's got a GPU in it, Jeff is on it.
▶ 칩 라이브 24 홈으로 — chiplive24.com