Arm, AMD 제논5 EPYC 터빈과 AGI CPU 경쟁…에이전트 워크로드에서 랙 레벨 2배 성능 우위 주장
🇰🇷 한글 번역
Arm의 AGI CPU는 AMD EPYC와 벤치마킹되었으며, 에이전트형 AI 워크로드에서 2배의 성능 향상을 제공했습니다.
Arm은 AMD의 EPYC Turin을 상대로 AGI CPU를 내세워 2배의 성능 향상을 선보였지만, EPYC Venice(Zen 6 기반)는 시연에서 누락되었습니다.
산업계가 에이전트형 AI 최적화 칩을 계속 출시함에 따라 이 분야의 경쟁이 치열해지고 있습니다. 거의 매주 한 벤더가 경쟁사보다 우수한 결과를 선보이고, 이에 경쟁사들이 자체 벤치마크로 모든 면에서 맞대응하는 모습을 볼 수 있습니다.
OCP 2026에서 Arm은 AGI CPU의 새로운 성능 측면들을 공개했습니다. 이 벤치마크 결과는 회사가 이전에 공개한 결과를 확장한 것입니다.
AGI 칩은 Arm이 설계하여 올해 초 출시한 CPU입니다. 이는 동사가 설계한 최초의 서버 등급 CPU 실리콘으로, 고성능, 확장성, 효율성을 고려하여 에이전트형 AI 워크로드에 맞게 미세 조정되었습니다. 이 칩은 Arm의 Neoverse 코어 3세대를 탑재하고 있습니다. 이 코어들은 에이전트 워크로드를 위해 하이퍼스케일러와의 다단계 파트너십을 통해 특별히 튜닝되었습니다.
이러한 최적화 중 일부는 각 코어가 높은 메모리 대역폭을 확보할 수 있도록 메모리 지연 시간을 줄이는 것을 포함합니다. 이 칩들은 또한 랙 레벨 및 랙 스케일 배포에서 성능 저하 없이 선형 확장성(90~95% 활용률 달성)을 달성하도록 설계되었습니다. 또한 이 칩들은 추가적인 냉각 용량에 대한 의존도를 줄이는 전력 엔벨로프를 달성하도록 설계되어, 이는 비용 절감으로 이어지고 하이퍼스케일러가 더 많은 코어를 랙에 장착할 수 있도록 합니다.
최신 벤치마크를 위해 연구 기관 Signal65는 TerminalBench와 SwayBench를 통해 AGI CPU에 대한 벤치마크를 수행했습니다. AGI CPU는 Zen 5 아키텍처 기반의 AMD EPYC Turin 칩과 비교되었습니다. 결과는 AGI CPU가 코어당 더 높은 성능을 제공할 뿐만 아니라, 랙당 더 높은 성능을 유지했음을 보여줍니다.
칩당 기준으로 AGI CPU는 7가지 워크로드 전반에 걸쳐 EPYC 9755 대비 평균 1.20배의 성능을 보였으며, AMD는 MySQL(0.88배)과 Milvus(0.95배)에서 소켓 레벨에서 x86 부품이 우위를 점하는 두 가지 워크로드를 제외하고는 대부분에서 앞섰습니다. 1.99배라는 수치는 Arm의 정격 서버 전력 모델에서 비롯된 것으로, 이 모델은 24kW 랙에 21~23대의 AGI CPU 서버를 배치하는 반면 EPYC 9755 서버는 13대를 배치합니다. 이는 AGI CPU 서버가 정격 950W에서 1,050W의 전력을 소모하는 반면, 듀얼 소켓 EPYC 시스템은 1,700W를 소모하기 때문에, 물리적 코어 수는 AGI CPU가 5,712~5,888개인 반면 EPYC는 3,328개입니다.
칩당 결과를 이 1.62배에서 1.77배의 밀도 계수로 곱하면 랙당 수치가 도출됩니다. 보고서의 자체 민감도 분석은 인용할 가치가 있습니다. 메모리는 하드웨어 스레드당 4GB로 크기 조절되어, SMT를 지원하는 EPYC 랙은 서버당 약 2TB의 메모리를 확보하는 반면 AGI CPU는 1TB를 확보합니다. 또한 물리적 코어당 크기 조절을 하면 7가지 워크로드 평균이 1.99배에서 약 1.81배로 감소합니다.
테스트 결과의 내역은 다음과 같습니다.
- Arm AGI CPU는 랙당 작업량을 2배 처리합니다. 7가지 워크로드 전반에 걸쳐 AGI CPU는 EPYC 9755의 랙당 모델링 성능 대비 평균 1.99배를 제공하며, 개별 워크로드별 성능은 1.43배에서 3.19배까지 다양했습니다.
- 랙 레벨 밀도가 주요 동인입니다. Arm AGI의 효율성과 확장성 강조는 랙 레벨에서의 컴퓨팅 밀도를 가능하게 합니다. Arm의 정격 전력 모델은 24kW 랙에 21~23대의 AGI CPU 서버를 배치하는 반면 EPYC 9755 서버는 13대를 배치합니다. 이는 물리적 코어 수로 환산하면 AGI CPU가 5,712~5,888개인 반면 EPYC는 3,328개입니다. 밀도 계수는 서버 전력의 비율이므로 모든 랙 전력 수준에서 동일하게 적용됩니다.
에이전트 워크로드 전반에서 랙 단위 성능이 향상됨. Arm AGI CPU는 모델링된 랙 단위 성능 기준 모든 에이전트 성능 카테고리에서 선두를 차지하며, 도구 사용은 평균 1.7배, 엔드투엔드 에이전트 워크플로는 2.0배, 추론/계획은 2.2배 더 빠른 성능을 보였으며, AMD EPYC 9755(듀얼 소켓 서버당 1,700W)보다 낮은 정격 서버 전력(듀얼 소켓 서버당 950~1,050W)으로 운영됨.
샌드박스 생성 지연 시간 감소. 듀얼 소켓 AMD EPYC 9965와 비교할 때, AGI CPU는 Sandbench에서 보고된 모든 세 가지 샌드박스 런타임(runc, Firecracker, gVisor)에서 더 빠르게 샌드박스를 생성했으며, 콜드 시작 시 45%, 웜 시작 시 27%, 4배 과부하 상태에서의 최악의 경우 41% 더 짧은 시간을 소요하여 에이전트 환경의 오버헤드를 줄임.
NVIDIA와의 독점 인터뷰에서 동사는 단일 코어 성능이 에이전트 AI 워크로드에서 선두를 차지한다고도 설명함.
칩 제조사들은 코어당 성능을 지속적으로 높이기 위해 노력하고 있음. 다양한 워크로드에 필수적인 코어 수는 계속 증가하고 있지만, 에이전트는 더 빠른 코어를 필요로 하며, 이것이 모든 제조사가 집중하는 분야임.
결국 필요한 것은 두 가지 요소 간 균형을 제공할 수 있는 CPU이며, 이것이 AGI-CPU가 설계된 목적임. 이 CPU는 성능과 효율성, 확장성 간의 균형을 제공하도록 설계되었으며, 동시에 매우 유연한 작동 범위를 제공함.
따라서 코어당 성능을 더 높이는 방향으로 튜닝하고 싶다면 그 방법이 존재하며, 랙당 더 많은 성능을 제공하도록 최적화하고 싶다면 그 방법도 존재함.
또한 이러한 벤치마크에는 Zen 6 아키텍처 기반의 AMD EPYC Venice 칩은 제외되어 있으며, 이 칩들은 단일 코어 성능에서 엄청난 향상을 보여줌. Venice의 출시가 계속됨에 따라 경쟁사의 최신 제품에 대한 추가 벤치마크 결과를 보고 싶음.
Wccftech의 뉴스 커버리지를 피드에서 더 많이 보려면 Google에서 Wccftech를 팔로우하세요.
📄 원문 (English)
Arm's AGI CPU has been benchmarked against AMD EPYC, offering twice the performance uplift in agentic AI workloads.
Arm Pits Its AGI CPU Against AMD's EPYC Turin, Showcasing a 2x Uplift, But EPYC Venice With Zen 6 Is Missing From Its Demonstration
As the industry continues to roll out agentic AI-optimized chips, the competition in this space is heating up. It's almost every week that we see one vendor showcasing results that outperform the rivals, and then the rivals come back firing across all cylinders with their own benchmarks.
At OCP 2026, Arm showcased some new performance aspects of its AGI CPU. These benchmarks expand on the results previously disclosed by the company.
The AGI chip is a CPU that has been designed by Arm and was launched earlier this year. It is the first server-grade CPU silicon designed by the company and has been fine-tuned for Agentic AI workloads with high-performance, scalability, and efficiency in mind. The chip features the 3rd generation of Arm's Neoverse cores. These cores have been specifically tuned through multi-tier partnerships with hyperscalers for Agentic workflows.
Some of these optimizations include a reduction in memory latency to ensure that each core gets high memory bandwidth. The chips are also designed to achieve linear scalability in rack-level & rack-scale deployments with no drop in performance (achieving 90-95% utilization). The chips are also designed to achieve a power envelope that reduces reliance on additional cooling capacity, which in turn leads to lower costs and allows hyperscalers to rack in more cores.
For the latest benchmarks, research firm Signal65 took the AGI CPU through the benchmarking spree across TerminalBench and SwayBench. The AGI CPU was compared against an AMD EPYC Turin chip based on the Zen 5 architecture. The results show that the AGI CPU was not only able to deliver higher performance per core, but it also sustained higher performance per rack.
Per chip, AGI CPU averages 1.20x the EPYC 9755 across the seven workloads, and AMD wins two of them outright: MySQL at 0.88x and Milvus at 0.95x favor the x86 part at the socket level. The 1.99x emerges from Arm’s rated server-power model, which places 21 to 23 AGI CPU servers in a 24 kW rack against 13 EPYC 9755 servers, 5,712 to 5,888 physical cores against 3,328, because an AGI CPU server draws a rated 950 W to 1,050 W against 1,700 W for a two-socket EPYC system.
Multiply per-chip results by that 1.62x to 1.77x density factor and the rack numbers follow. The report’s own sensitivity analysis deserves quoting: memory is sized at 4 GB per hardware thread, which hands the SMT-enabled EPYC rack roughly 2 TB of memory per server against 1 TB for AGI CPU, and sizing per physical core instead would cut the seven-workload average from 1.99x to about 1.81x.
A breakdown of the test results is provided below:
- The Arm AGI CPU delivers 2x the work per rack. Across the seven workloads, the AGI CPU delivers an average of 1.99x the modeled performance per rack of the EPYC 9755, with individual workloads ranging from 1.43x to 3.19x.
- Rack-level density is the key driver. Arm AGI’s focus on efficiency and scalability enables compute density at the rack level. Arm’s rated-power model places 21 to 23 AGI CPU servers in a 24 kW rack against 13 EPYC 9755 servers: 5,712 to 5,888 physical cores against 3,328. The density factor is a ratio of server power, so it holds at any rack power level.
- Higher rack-level performance across agentic workloads. Arm AGI CPU leads across all three agentic performance categories in modeled rack-level performance, averaging 1.7x for tooling, 2.0x for end-to-end agentic workflows, and 2.2x for reasoning/planning, while operating at a lower rated server power than AMD EPYC 9755 (950 to 1,050 W vs. 1,700 W per two-socket server).
- Lower sandbox creation latency. Against a two-socket AMD EPYC 9965, the AGI CPU created sandboxes faster on all three sandbox runtimes reported in Sandbench (runc, Firecracker and gVisor), taking 45% less time for cold starts, 27% less for warm starts and 41% less in the worst case under 4x oversubscription, reducing the overhead of agent environments.
In our exclusive interview with NVIDIA, the company also outlined how single-core performance is the leader in Agentic AI workloads.
Chipmakers are continually working to add more performance per core. While core counts keep on increasing, which are as essential for a wide range of workloads, Agents require faster cores and that's where everyone is focusing on.
And end of the day, you need to have a CPU that can provide you a balance between both, and that is what AGI-CPU was designed to do. It was designed to provide you a balance of both performance as well as efficiency and scalability. And at the same time, it also provides you with a very configurable operating range.
So, if you want to tune it more for performance per core, there is a way to do that. You want to optimize it to deliver more performance per rack, there is a way to do that as well.
Also, these benchmarks do leave out AMD's EPYC Venice chips based on the Zen 6 architecture, which showcase massive uplifts in single-core performance. As Venice rollout continues, we'd like to see more benchmarks against the latest from the competition.
Follow Wccftech on Google to get more of our news coverage in your feeds.
▶ 칩 라이브 24 홈으로 — chiplive24.com