브로드컴 AI 매출 221% 성장…커스텀 칩이 GPU보다 더 큰 사업이 될 수 있는 이유
🇰🇷 한글 번역
브로드컴(AVGO +3.67%)은 3분기 인공 지능(AI) 반도체 매출이 전년 대비 221% 증가했으며, 이 성장은 4분기에 더욱 가속화될 수 있다. 경영진의 전망에 따르면 AI 관련 매출은 217억 달러로, 전년 대비 236% 증가할 것으로 예상된다.
이 같은 매출 증가의 명확한 동력은 커스텀 AI 가속기, 즉 경영진이 XPUs라고 부르는 칩들이다. 이러한 칩들은 알파벳(GOOG +0.22%)(GOOGL +0.35%), 메타 플랫폼스(META -0.41%), 앤트로픽, 오픈AI를 포함한 하이퍼스케일러들과의 파트너십을 통해 설계되었다. 엔비디아(NVDA +0.14%)와 그 GPU들이 AI 학습 및 추론의 핵심 역할을 해왔지만, 커스텀 반도체 칩은 훨씬 더 큰 사업이 될 수 있다.
그 이유와 이것이 브로드컴 및 그 고객들에게 의미하는 바는 무엇인지 살펴보자.
AI 구축에서 가장 큰 병목 현상
AI 학습에는 몇 가지 병목 현상이 존재한다. 하이퍼스케일러들이 새로운 데이터 센터를 얼마나 빠르게 구축할 수 있는지, 그리고 메모리 칩에 대한 수요 과잉과 짧은 공급 기간에 초점이 맞춰져 왔다. 그러나 투자자들이 고려해야 할 또 다른 병목 현상은 하이퍼스케일러들이 실제로 접근할 수 있는 자본의 양이다.
알파벳은 지난 분기 음의 자유현금흐름을 보고했는데, 이는 상장 기업으로서 처음 있는 일이다. 메타 역시 같은 길을 걷고 있다. 한편, 앤트로픽과 오픈AI는 극도로 음의 현금흐름을 보이고 있다. 결과적으로 이들은 부채와 지분을 통해 자본을 조달해야 했다.
NASDAQ: GOOG
주요 데이터 포인트
자본이 제한된 상황에서 하이퍼스케일러들은 투자 수익률(ROI) 잠재력이 가장 높은 자산에 자본을 배분해야 한다. 물론 GPU에 대한 기본 수요는 존재하며, 이는 종종 학습이나 혼합 워크로드 작업에 더 적합하다. 그러나 커스텀 실리콘은 전력 대비 성능 비율이 더 우수하고 추론 속도가 더 빠르며, 초기 자본 투자가 덜 필요하다. 결과적으로 커스텀 실리콘은 자본 대비 더 높은 수익률을 보여줄 수 있다.
이 점은 최근 구글 클라우드 CEO 토마스 쿠리안이 실시한 인터뷰에서 명확히 드러났다. 그는 AI 서버의 회수 기간이 2년 미만이지만, 구글 자체 실리콘의 경우 그 절반 미만이라고 말했다. AI 서버의 수명이 6년이라고 가정할 때, 이는 투자 수익률을 약 200%에서 약 500%로 높인다. 또한 이는 더 작은 자본 지출과 더 짧은 회수 기간을 통해 컴퓨팅 수요 둔화 위험을 줄여준다.
추론 비용 낮게 유지하기
앤트로픽과 오픈AI가 자체 칩을 설계하는 이유도 여기에 있다. 이들은 알파벳의 풀스택 비즈니스 모델이 지닌 가치를 보고 있다. 알파벳은 대형 언어 모델이 실행되는 커스텀 실리콘을 설계한다. 구글 제미니는 프론티어 모델에 대해 매우 낮은 토큰당 가격을 제시하며, 쿠리안은 이것이 전적으로 구글 클라우드에서 구글의 TPU 칩을 사용하기 때문이라고 말했다.
더 많은 기업들이 더 많은 작업에 AI를 사용하고 에이전트형 AI가 점점 더 유용해짐에 따라, 토큰 비용은 기업이 어떤 모델을 선택할지 결정하는 데 중요한 역할을 하게 될 것이다. 구글과 경쟁력 있는 가격을 제공하려면 오픈AI, 앤트로픽 및 기타 대형 언어 모델(LLM) 개발자들이 사용 가능한 가장 효율적인 칩을 사용해야 한다. 이는 종종 대부분의 컴퓨팅을 커스텀 실리콘에서 실행한다는 것을 의미한다.
NASDAQ: AVGO
주요 데이터 포인트
이는 XPUs에 대한 지지를 더욱 강화한다. 하이퍼스케일러들이 접근 권한을 판매할 때 투자된 자본에 대한 더 높은 수익률을 제공할 수 있을 뿐만 아니라, 프론티어 연구소(그리고 결과적으로 다른 기업들)의 가장 큰 지속적 비용인 추론 비용을 줄일 수 있기 때문이다.
XPUs가 GPU를 대체할 것인가?
엔비디아의 데이터센터 사업은 2분기 말 기준 연율 3,560억 달러로 마감했다. 이는 브로드컴의 XPU 사업 규모보다 4배 이상 큰 엄청난 수치다.
하지만 XPU 채택 속도는 더 빠르게 증가하고 있으며, 이러한 추세는 지속적인 성장을 지지한다.
올초 아마존의 앤디 재시 CEO는 자사의 데이터센터에 엔비디아 GPU보다 맞춤형 실리콘 서버를 더 많이 추가할 것이라고 밝힌 바 있다. 쿠리안과 마이크로소프트 임원들의 발언 역시 이들이 GPU보다 맞춤형 실리콘 추가에 더 무게를 두고 있음을 시사한다.
물량 기준으로는 이미 엔비디아의 최대 고객들 사이에서 XPU가 경쟁에서 앞서고 있으며, 이 격차는 향후 몇 년 동안 더 벌어질 전망이다. 다만 XPU가 GPU보다 낮은 가격에 판매되기 때문에 매출이 이를 따라잡기까지는 상당한 시간이 걸릴 것이다. 하지만 가격은 기업의 미래 성장을 반영해야 하므로 투자자들에게 이는 중요하지 않을 수 있다. 브로드컴이 미래 이익을 기준으로 엔비디아보다 프리미엄을 받고 거래되고 있지만, 맞춤형 실리콘의 성장 전망을 고려하면 그 프리미엄은 지불할 가치가 있을 수 있다.
📄 원문 (English)
Broadcom (AVGO +3.67%) grew its artificial intelligence semiconductor revenue by 221% year over year in the third quarter, and that growth could accelerate in the fourth quarter. Management's outlook calls for $21.7 billion worth of AI-related revenue, up 236% from a year ago.
There's a clear driver behind that revenue -- custom AI accelerators, or what management calls XPUs. These chips are designed in partnership with hyperscalers, including Alphabet (GOOG +0.22%) (GOOGL +0.35%), Meta Platforms (META -0.41%), Anthropic, and OpenAI. And while Nvidia (NVDA +0.14%) and its GPUs have been the workhorse of AI training and inference, custom semiconductor chips could end up being a much bigger business.
Here's why and what it means for both Broadcom and its customers.
The biggest bottleneck in the AI build-out
There are a handful of bottlenecks in AI training. Much focus has been placed on how quickly hyperscalers can stand up new data centers and the glut of demand for memory chips against a short supply. But another bottleneck investors need to consider is how much capital the hyperscalers can actually access.
Alphabet reported negative free cash flow last quarter, the first time it's ever done so as a publicly traded company. Meta is on track to do the same. Meanwhile, Anthropic and OpenAI are extremely cash-flow-negative. As a result, they've had to raise capital via debt and equity.
NASDAQ: GOOG
Key Data Points
With limited capital, hyperscalers must allocate it to assets with the highest potential return on investment. To be sure, there's a baseline demand for GPUs, which are often better for training or mixed-workload tasks. However, custom silicon offers better power-to-performance ratios and faster inference speeds while requiring less upfront capital. As a result, custom silicon can exhibit higher returns on capital.
That was crystalized in a recent interview given by Google Cloud CEO Thomas Kurian. He said the payback period on its AI servers is less than two years, but on Google's own silicon, it's less than half that. If the useful life of an AI server is six years, that increases the return on investment from about 200% to about 500%. It also reduces the risk of a slowdown in compute demand through smaller capital outlays and shorter payback periods.
Keeping inference costs low
There's a reason Anthropic and OpenAI are designing their own chips as well. They see the value in Alphabet's full-stack business model, where it designs the custom silicon that its large language models run on. Google Gemini offers a very low price per token for frontier models, and Kurian says that's entirely because it runs on Google's TPU chips on Google Cloud.
As more businesses use AI for more tasks and agentic AI becomes increasingly useful, token costs will play a significant role in determining which model enterprises choose. Being able to offer competitive pricing with Google will require OpenAI, Anthropic, and other LLM developers to use the most efficient chips available. More often than not, that will mean running most of their compute on custom silicon.
NASDAQ: AVGO
Key Data Points
That further tilts the scales in favor of XPUs, as not only can they provide a higher return on invested capital for hyperscalers selling access, but they can also reduce the biggest ongoing cost for frontier labs (and, by extension, other enterprises).
Will XPUs overtake GPUs?
Nvidia's data center business exited the second quarter at a $356 billion run rate. That's absolutely massive, more than 4 times the size of Broadcom's XPU business.
But XPU adoption is growing faster, and the trend favors continued growth.
Earlier this year, Amazon CEO Andy Jassy said his company would add more custom silicon servers to its data centers than Nvidia GPUs. Comments from Kurian, as well as Microsoft executives, suggest they're also leaning heavily toward adding more custom silicon than GPUs.
By volume, XPUs already seem to be winning the race among Nvidia's biggest customers, and that lead should continue to expand over the next few years. However, considering XPUs garner lower prices than GPUs, it will be a long time before revenue catches up. That shouldn't matter to investors, though, as prices should reflect the business's future growth. While Broadcom trades at a premium to Nvidia based on future earnings, that premium may be worth paying, considering the growth outlook for custom silicon.
▶ 칩 라이브 24 홈으로 — chiplive24.com