마이크로소프트, 새로운 AI 칩 공개…‘엔비디아 킬러’ 될까?
🇰🇷 한글 번역
월요일, 마이크로소프트(MSFT -1.80%)는 최신 AI 칩 아키텍처인 마이어 300(Maia 300)을 공개했다.
동사는 마이어 300이 그래픽 처리 장치(GPU)보다 우월한 점을 강조하기 위해 노력했다. "이번이 우리가 자체 실리콘에 걸은 가장 큰 베팅입니다,"라고 사티아 나델라 최고경영자(CEO)는 말했다.
이것은 세계 최고의 GPU 제조사인 엔비디아(NVDA -3.16%)를 향한 경고 사격으로 간주되었다.
그렇다면 마이어 300은 수년간 사람들이 기다려온 '엔비디아 킬러'일까? 그럴 수도 있지만, 당신이 생각하는 방식은 아닐 것이다. 실제로 일어나고 있는 일은 무엇일까.
AI 비용 절감
마이어 300은 지난 1월 출시된 마이어 200의 업그레이드 버전이다.
마이어 200은 현재 생산 중이며 아이오와와 애리조나의 마이크로소프트 시설에 이미 배치되어 엔비디아, 인텔(INTC -4.56%), AMD(AMD -5.73%)의 GPU 및 기타 구성 요소 대신 사용되고 있다.
마이크로소프트는 새로 업그레이드된 마이어 300 칩이 더욱 경제적이며, GPU와 비교했을 때 메가와트당 처리할 수 있는 토큰이 40% 더 많다고 주장한다. 메가와트당 토큰 비율이 높을수록 AI 데이터 센터의 가장 큰 비용인 전기 요금이 낮아지므로 AI 비용이 절감된다.
하지만 운영 비용이 더 저렴하더라도 엔비디아의 최상위 시스템의 성능을 따라잡지는 못할 것이다. 이것이 문제가 되지 않을까?
항상 선두가 중요한 것은 아니다
아마 다른 어떤 기업보다 마이크로소프트는 두 번째로 들어옴으로써 매우 잘해 왔다. 마이크로소프트의 Azure 클라우드 플랫폼은 아마존의 아마존 웹 서비스(AWS)에 이어 두 번째로 크다. 마이크로소프트의 Surface 태블릿은 애플의 iPad보다 판매량이 적었다. 마이크로소프트의 Xbox는 항상 소니의 플레이스테이션에 뒤처져 왔다.
따라서 마이크로소프트가 엔비디아의 게임에서 엔비디아를 이기려 하기보다는 더 유리한 경기장, 즉 비용에서 경쟁하려 한다는 사실은 누구도 놀랄 일이 아니다. "거대한 추론 시스템에서 병목 현상은 이제 순수한 연산 능력보다 효율적인 데이터 이동이 되고 있습니다,"라고 마이크로소프트는 마이어 300 시스템 발표 블로그 게시물에서 밝혔다. 동사는 이를 자신들의 장점으로 활용하기를 희망한다.
칩스트랫(Chipstrat)의 분석가인 오스틴 라이언스는 다양한 AI 프로세서를 다양한 작업에 최적화하는 데 여기에서 기회가 있다고 생각한다. "맞춤형 실리콘의 장점은 마이크로소프트가 실제 워크로드가 요구하는 지연 시간(latency)에 최적화할 수 있다는 것입니다,"라고 그는 썼다. "회의 요약과 코딩 에이전트는 동일한 응답 시간을 필요로 하지 않습니다. 마이어는 각 지연 시간 지점에서 더 많은 처리량을 목표로 하며, 이는 메가와트당 더 유용한 토큰을 제공하고 고객에게 전달되는 비용을 낮추는 것을 의미합니다."
무어 인사이트 앤드 스트래티지(Moor Insights & Strategy)의 패트 무어헤드도 다음과 같이 썼다.
마이크로소프트는 이제 의미 있는 생산 규모에서 마이어를 배포하는 방향으로 나아가고 있습니다. 그 규모에서 맞춤형 실리콘은 단순히 성능에 관한 것이 아닙니다. 마이크로소프트 자체 AI 서비스를 제공하는 경제성을 개선함으로써 중요한 마진 동인이 될 수 있습니다.
AI 경쟁이 변화하고 있다
라이언스와 무어헤드는 업계 전반의 논평을 반영하고 있는데, 이는 AI 경쟁이 가장 빠르고 강력한 프로세서를 만들기 위한 제로섬 게임에서 진화하고 있음을 시사한다. 하이퍼스케일러와 기타 주요 기업들은 기술 거대 기업들이 새로운 기술을 수익화하기 시작하는 시대에 AI의 경제성과 고객이 지불할 의사가 있는 것에 대해 고려하기 시작했다.
마이크로소프트는 더 저렴하게 작동하는 프로세서에서 난이도가 낮은 내부 AI 쿼리를 실행함으로써 선제적 비용 관리의 한 걸음을 더 내딛고 있으며, 이는 올해 초 투자자들이 주식을 평가한 주요 이유 중 하나다.
나스닥: MSFT
주요 데이터 포인트
따라서 마이어 300은 그 자체로 엔비디아를 대체하는 제품은 아니지만, 현재 엔비디아의 GPU가 가장 강력한 AI 프로세서임에도 불구하고 모든 애플리케이션에 대해 보편적인 첫 번째 선택지가 아닐 수 있다는 증거가 된다. 제시된 문제의 난이도에 비해 가능한 한 저렴한 인프라로 AI 쿼리를 라우팅하는 것이 일반화될 가능성이 있다.
즉, 엔비디아가 향후 수십 년 동안 세계 최고의 기술을 계속 생산하더라도 그 판매량은 영향을 받을 수 있다.
엔비디아는 여전히 경쟁 구도에 남아 있다
마이어 300은 2027년 어느 시점에야 양산에 들어간다. 그리고 그때라도 엔비디아의 AI 인프라는 마이크로소프트의 AI 조합에서 중요한 부분을 차지할 것이 거의 확실하다.
작은 주, 마이크로소프트는 클라우드 접근 없이 AI 모델을 실행할 수 있는 강력한 프로세서를 탑재한 새로운 서피스 랩톱 울트라에 대해 2,599달러부터 시작하는 가격으로 사전 주문을 받고 있다. 그 높은 가격표는 바로 이 강력한 프로세서 덕분이다.
이 놀라울 정도로 강력한 칩의 제조사는? 맞다, 엔비디아다.
📄 원문 (English)
On Monday, Microsoft (MSFT -1.80%) unveiled its latest AI chip architecture, the Maia 300.
And the company went out of its way to point out the ways in which the Maia 300 was superior to graphics processing units (GPUs). "This is our biggest bet yet on our own silicon," said CEO Satya Nadella.
This was seen as a shot across the bow to the world's premier GPU maker, Nvidia (NVDA -3.16%).
So is the Maia 300 the "Nvidia killer" that everyone has been anticipating for years? It might be, but not in the way you might think. Here's what's really going on.
Cutting the cost of AI
The Maia 300 is an upgraded version of the Maia 200, which was released in January.
The Maia 200 is currently in production and has already been deployed at Microsoft facilities in Iowa and Arizona, where it's used instead of GPUs and other components from Nvidia, Intel (INTC -4.56%), and Advanced Micro Devices (AMD -5.73%).
Microsoft claims the new, upgraded Maia 300 chip is even more economical and can process 40% more tokens per megawatt when compared to GPUs. A higher token-per-megawatt ratio results in lower AI costs because the biggest expense for an AI data center is electricity.
But even if it's cheaper to operate, it's certainly not going to match the power of Nvidia's top-of-the-line systems. Won't that be an issue?
It's not always about being first
Perhaps more than any other company, Microsoft has done very well by coming in second. Its Azure cloud platform is the second-largest, compared to Amazon's Amazon Web Services. Its Surface tablets have never outsold Apple's iPad. Its Xbox has always played second fiddle to the Sony PlayStation.
So it shouldn't surprise anyone that Microsoft isn't trying to beat Nvidia at its own game, but to compete on a more favorable playing field: cost. "Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems," Microsoft said in its blog post announcing the Maia 300 system. The company hopes to leverage this to its advantage.
Austin Lyons, an analyst for Chipstrat, thinks there's an opportunity here in optimizing different AI processors for different tasks. "The advantage of custom silicon is that Microsoft can optimize for the latency its own workloads actually require," he wrote. "A meeting summary and a coding agent don't need the same response time. Maia targets more throughput at each of those latency points, translates to more useful tokens served per megawatt and lower cost passed for customers."
Pat Moorhead of Moor Insights & Strategy agrees, writing:
Microsoft is now moving toward deploying Maia at meaningful production scale. At that scale, custom silicon isn't just about performance. It can become an important margin driver by improving the economics of delivering Microsoft's own AI services.
The AI race is changing
Lyons and Moorhead are echoing commentary from across the industry that suggests the AI race is evolving away from a zero-sum contest to create the fastest, most powerful processors. Hyperscalers and other major players are starting to think about the economics of AI and what customers will be willing to pay in an era where the tech giants start to monetize the new technology.
By running lower-difficulty, in-house AI queries on processors that operate more cheaply, Microsoft is taking another step in proactive cost management, which is one of the key reasons investors rewarded the stock earlier this year.
NASDAQ: MSFT
Key Data Points
So while the Maia 300 isn't an Nvidia killer on its own, it's evidence that the most powerful AI processors -- currently Nvidia's GPUs -- may not be everyone's universal first choice in the future for every application. Routing an AI query to the cheapest infrastructure possible for the difficulty of the problem presented may become the norm.
In other words, even if Nvidia continues to produce the best tech in the world for decades to come, its sales volume might suffer regardless.
Nvidia will still be in the mix
The Maia 300 doesn't even begin production until sometime in 2027. And even then, Nvidia AI infrastructure is almost certain to remain a critical part of Microsoft's AI mix.
Just last week, Microsoft started taking preorders for a new Surface Laptop Ultra with a starting price of $2,599. That hefty price tag is thanks to its powerful processor that can run AI models without requiring cloud access.
The maker of that incredibly powerful chip? You guessed it: Nvidia.
▶ 칩 라이브 24 홈으로 — chiplive24.com