데이터센터 AI 칩 시장 승자 변화 가능: 브로드컴과 마벨
🇰🇷 한글 번역
데이터센터 AI 칩이 승자를 바꿀 수 있다: 브로드컴과 마벨
이 글에는 스폰서 및 제휴사 링크가 포함될 수 있으며, Flywheel Publishing은 이를 통해 이루어진 행동에 대해 보상을 받을 수 있습니다.
- 하이퍼스케일러가 상용 GPU와 함께 맞춤형 AI 프로세서를 확장함에 따라 브로드컴과 마벨이 혜택을 볼 것으로 보인다.
- AI 학습과 추론은 컴퓨팅, 메모리 대역폭, 전력 및 비용 측면에서 서로 다른 요구사항을 부과한다.
- The Information Network의 HBM 모델은 프로세서 아키텍처와 메모리 콘텐츠가 어떻게 수요를 변화시키는지 보여준다.
소개
반도체 주식의 매도 물량은 인공지능 인프라 지출의 지속 가능성에 대한 의문을 더욱 깊게 하고 있다. 투자자들은 하이퍼스케일러들이 막대한 자본을 투입하고 있는 상황, 이러한 투자가 가져올 수익, 그리고 AI 붐의 첫 번째 단계를 주도한 기업들이 경쟁 우위를 유지할 수 있을지 재평가하고 있다.
엔비디아 주가 변동보다 덜 주목받는 중요한 developments 중 하나는 하이퍼스케일러들이 맞춤형 설계 AI 프로세서의 사용을 확대하고 있다는 점이다. 이러한 칩은 학습과 추론의 경제성을 개선하고, 에너지 소비를 줄이며, 클라우드 운영자에게 컴퓨팅 인프라에 대한 더 큰 통제력을 제공한다. 브로드컴(AVGO | AVGO 가격 예측)과 마벨(MRVL)은 맞춤형 실리콘, 네트워킹 및 연결성을 통해 이러한 전환에 참여할 수 있는 입지에 있다.
투자 질문은 맞춤형 ASIC가 GPU를 완전히 대체할 것이냐가 아니다. 전체 AI 컴퓨팅이 계속 성장하더라도, 확장되는 프로세서 혼합이 반도체 수익과 HBM 수요의 분포를 어떻게 변화시키느냐가 핵심 질문이다.
브로드컴과 마벨: 맞춤형 실리콘에 투자하는 두 가지 방법
브로드컴은 맞춤형 AI 프로세서와 이를 연결하는 네트워킹 칩의 주요 공급업체이다. 2026년 4월, 브로드컴은 2031년까지 구글의次世代 AI 랙을 위한 네트워킹 및 기타 구성 요소와 함께 차세대 구글 TPU의 개발 및 공급에 관한 장기 계약을 발표했으며, 이는 광범위한 시장 예측에만 의존하는 것이 아니라 맞춤형 실리콘 기회의 구체적인 상업적 기반을 제공한다.
브로드컴의 경쟁 우위에는 정교한 가속기를 설계하는 데 필요한 엔지니어링 자원과 수천 개의 장치를 연결하는 데 필요한 고속 스위칭 기술이 포함된다. 이 두 가지 기회는 서로를 강화한다. ASIC 배포가 확대되면 프로세서 자체가 더 좁은 작업 부하 세트를 위해 설계되었더라도 네트워크 대역폭에 대한 수요가 증가할 수 있다. 브로드컴의 리스크에는 고객 집중도, 고비용 설계 프로그램, 그리고 클라우드 고객이 기술적으로 더 정교해짐에 따른 가격 압박이 포함된다.
마벨 테크놀로지는 다른 형태의 노출을 제공한다. 2026년 8월의 구글 계약은 추론 가속기, 스토리지 컨트롤러, 네트워크 인터페이스 컨트롤러, 메모리 인터페이스 컨트롤러 및 근접 메모리 컴퓨팅을 포함하여 TPU 생태계와 관련된 맞춤형 실리콘 프로그램을 다루고 있다. 따라서 마벨은 단순히 중앙 가속기뿐만 아니라 AI 시스템 전반에 걸친 반도체 콘텐츠 확보를 위해 경쟁하고 있다.
구글과의 계약에는 구매 연동형 권리증서(warrant) arrangement도 포함되어 있다. 대부분의 주식은 누적된 맞춤형 제품 매출에 연동된 분할 이행 조건에 따라 행사되며, 매 5억 달러마다 하나의 분할이 설정된다. 이는 측정 가능한 상업적 인센티브를 창출하지만, 계약상 프레임워크는 예상되는 모든 매출이 실제로 실현될 것을 보장하지는 않는다. 마벨의 기회는 상당하지만, 대형 고객에 대한 의존도와 프로그램 실행 능력은 특별한 주의가 필요하다.
두 회사는 동일한 투자 제안이 아니다. 브로드컴은 확립된 맞춤형 가속기 및 네트워킹 사업을 보유하고 있는 반면, 마벨은 가속기, 컨트롤러 및 연결성 분야에서 잠재적인 추가 시장 점유율 확대 가능성을 제공한다. 투자자들에게 있어 관련 지표는 단순히 발표된 칩의 수가 아니라, 설계 선정, 물량 증대, 마진, 그리고 제품의 반복적인 세대 교체이다.
엔비디아와 AMD는 여전히 중요한 경쟁사다.
엔비디아(NVDA)는 많은 대규모 모델 배포에서 지배적인 위치를 점하고 있는 유연한 GPU와 통합 컴퓨팅 플랫폼을 계속 공급하고 있다. 그 소프트웨어 생태계와 진화하는 모델을 지원할 수 있는 능력은 의미 있는 경쟁 우위다. 초거대 클라우드 기업은 안정적이고 대량으로 처리되는 워크로드에는 맞춤형 ASIC을 선택하는 한편, 연구, 새로운 모델 개발 및 부하가 큰 추론 작업에는 엔비디아 GPU를 계속 사용할 수 있다. 이 두 가지 접근 방식은 동일한 데이터 센터 내에서 공존할 수 있다.
어드밴스드 마이크로 디바이시스(AMD)도 AI 가속을 위한 GPU를 공급하며, 특수 목적의 재구성 가능한 추론을 위한 FPGA 기술을 제공한다. 이 회사는 여러 처리 아키텍처 전반에 걸쳐 기회를 가지고 있지만, 엔비디아의 설치된 소프트웨어 기반과 초거대 클라우드 기업의 필요에 맞춰 특별히 설계된 맞춤형 실리콘 프로그램과 경쟁해야 한다.
엔비디아는 제슨 황(Jensen Huang)의 11월 12일 퇴임과 코렛 크레스(Colette Kress)의 임시 CEO 임명으로 인한 리더십 전환의 여파도 겪고 있다. 이러한 developments는 관리상 불확실성을 초래하지만, 맞춤형 ASIC의 부상을 주로 이 전환에 귀인하는 것은 실수일 것이다. 초거대 클라우드 기업들은 거대한 규모의 컴퓨팅 경제성 때문에 수년 전부터 자체 프로세서 개발을 시작해 왔다.
훈련과 추론: 왜 이 구분이 중요한가
훈련은 대규모 데이터셋을 처리하고 모델 매개변수를 조정하여 AI 모델을 개발하는 과정이다. 추론은 훈련된 모델을 사용하여 답변을 생성하거나, 정보를 분석하거나, 작업을 수행하는 데 사용된다. 두 활동 모두 상당한 컴퓨팅 자원이 필요할 수 있지만, 성능 요구사항은 다르다. 훈련은 처리량과 다수의 가속기 간 조정을 강조하는 반면, 추론은 종종 토큰당 비용, 응답 지연 시간, 에너지 소비 및 많은 동시 사용자를 서비스할 수 있는 능력을 강조한다.
추론 자체도 단일한 균일한 워크로드가 아니다. 들어오는 프롬프트를 처리하는 과정인 프리필(prefill)은 병렬 컴퓨팅을 효과적으로 활용할 수 있다. 반면, 모델 매개변수를 메모리에서 읽는 속도에 의해 제약될 수 있는 디코딩(decoding), 즉 토큰 단위로 답변을 생성하는 과정은 다른 제약을 받는다. 긴 컨텍스트와 다단계 에이전트는 메모리 및 컴퓨팅 요구사항을 증가시켜, 추론이 항상 덜 강력한 프로세서만 필요하다는 주장을 복잡하게 만든다.
GPU는 학습과 추론 전반에 걸쳐 프로그래밍 가능성과 유연성을 제공한다. 맞춤형 ASIC은 특정 워크로드에 맞게 조정될 수 있으며, 대규모로 배포될 때 유리한 경제성을 제공한다. CPU는 소규모 모델과 지원 작업을 처리하며, FPGA는 특수화된 저지연 애플리케이션에 활용되고, NPU는 엣지 및 클라이언트 디바이스 추론을 지원한다. SRAM 기반 아키텍처는 데이터를 효율적으로 이동시키기 위한 또 다른 접근 방식을 제공한다. 이러한 프로세서들은 모두 HBM을 사용하지 않으며, 그들의 채택률을 직접적으로 HBM 출하량으로 환산할 수는 없다.
HBM에 대한 프로세서 아키텍처의 의미
고대역폭 메모리(HBM)는 프로세서 근처에서 높은 데이터 전송 속도를 제공하는 적층형 DRAM 다이로 구성된다. HBM 스택의 수는 칩 설계, 메모리 용량 및 대역폭 목표, 그리고 사용되는 메모리 세대에 따라 달라진다. GPU는 추론에 사용될 수 있고, 맞춤형 ASIC은 학습에 사용될 수 있으며, 아키텍처와 워크로드는 혼동되어서는 안 된다.
표 1에 따르면, 정보 네트워크의 2025년 illustrative 모델은 720만 개의 상용 GPU 유닛에 각각 8개의 HBM 스택을, 150만 개의 맞춤형 ASIC 유닛에 각각 3개의 스택을 할당한다. 이는 각각 5,760만 개와 450만 개의 HBM 스택을 산출한다. 이는 모델링된 물량이며, 독립적으로 검증된 전 세계 출하량이 아니며, HBM이 없는 프로세서는 제외된다.
이 모델이 주는 가장 유용한 교훈은 가속기 유닛 물량 자체가 메모리 수요를 결정하지는 않는다는 점이다. 각 프로세서의 HBM 함량이 중요하다. 두 범주의 프로세서 모두 두 가지 워크로드를 수행할 수 있으므로, 이 모델을 전 세계 HBM 소비의 특정 비율이 학습 또는 추론에 사용된다는 증거로 간주하는 것은 오해의 소지가 있다.
상승하는 ASIC 메모리 함량의 중요성
최신 맞춤형 가속기는 이전 세대보다 훨씬 더 많은 메모리 용량과 대역폭을 필요로 할 수 있다. 따라서 맞춤형 ASIC의 성장은 유닛 출하량 증가와 유닛당 더 높은 메모리 함량이라는 두 가지 경로를 통해 HBM 수요를 증가시킬 수 있다. 이 효과는 상용 GPU 출하량을 일정하게 유지하면서 맞춤형 ASIC 물량을 두 배로 늘리고 ASIC당 스택 수를 변화시킴으로써 설명할 수 있다.
표 2에 따르면, ASIC 출하량이 150만 개에서 300만 개로 두 배가 되면, 각 ASIC이 3개의 스택을 유지할 경우 모델링된 총 HBM 스택 수요는 7.2% 증가한다. 새로운 ASIC이 6개의 스택을 사용하는 경우, 총 수요는 원래 모델 대비 21.7% 증가한다. 이는 민감도 분석 계산치이며 예측치가 아니며, 메모리 효율성이나 GPU 구성의 변화는 반영하지 않는다.
이 민감도 분석은 중요한 불확실성을 드러낸다. 더 우수한 메모리 아키텍처, 더 큰 온칩 캐시, 소프트웨어 최적화는 메모리 단위당 제공되는 추론량을 향상시킬 수 있다. 따라서 ASIC 출하량 성장이나 AI 토큰 성장 중 하나만을 사용하여 HBM 수요를 예측해서는 안 된다. 투자자들은 디바이스당 메모리 스택 수, 스택 용량, 대역폭 및 각 스택의 DRAM 다이 수를 고려해야 한다.
메모리 공급업체의 고유한 기회
마이크론 테크놀로지(MU)는 그 제품이 고객의 자격 요건, 대역폭 및 수율 요구사항을 충족하는 한, GPU와 맞춤형 ASIC 모두에서 발생하는 HBM 수요로부터 혜택을 받을 수 있다. 그 기회는 특정 가속기 아키텍처에 대한 충성도가 아니라 총 메모리 함량과 제조 경제성에 연결되어 있다.
SK하이닉스와 삼성전자 모두 동일한 근본적인 성장 동력을 공유한다. 가속기의 복잡성이 증가하면 HBM 함량을 높일 수 있지만, 최종적인 수익 기회는 추가적인 생산 능력, 제조 수율, 그리고 경쟁적인 메모리 아키텍처의 영향을 받는다. 기존 DRAM이나 대규모 SRAM 어레이에 의존하는 프로세서는 여러 개의 고대역폭 스택을 중심으로 구축된 프로세서만큼의 HBM 수요를 창출하지 못한다.
따라서 메모리 부문에서의 경쟁 우위는 새로운 HBM 세대의 자격 인증, 허용 가능한 수율로 제조, 그리고 진화하는 가속기 플랫폼이 요구하는 대역폭과 용량을 공급하는 능력에 달려 있다. 이는 엔비디아, 브로드컴, 마벨 간의 경쟁과는 별개의 문제다.
투자자 관점
맞춤형 데이터센터 AI 칩의 확대는 브로드컴과 마벨에게 신뢰할 만한 기회를 제공하지만, 이것이 엔비디아 GPU가 구식화되고 있음을 의미하지는 않는다. 초거대 기업들은 유연성과 비용, 전력, 성능 사이의 균형을 맞추기 위해 다양한 워크로드에 다른 프로세서를 도입할 강력한 동기를 지니고 있다. 그 결과, 상용 GPU에 대한 수요가 계속 증가하는 가운데 AI 반도체 시장은 더욱 다각화될 수 있다.
브로드컴의 확립된 TPU 및 네트워킹 관계는 대규모 배포에 대한 노출을 제공한다. 마벨의 더 광범위한 구글 계약은 추론 가속기, 컨트롤러 및 연결성 전반에 걸쳐 잠재적 이익을 가져다줄 수 있다. 이들의 재무적 성과는 그들이 확보하는 실리콘 함량, 고객사의 양산 시기, 그리고 해당 프로그램의 수익성에 달려 있다. 한편, 마이크론 및 기타 메모리 공급업체들은 상용 및 맞춤형 아키텍처 전반에 걸쳐 증가하는 HBM 함량으로부터 혜택을 볼 수 있다.
더 인포메이션 네트워크의 HBM 민감도 분석은 핵심 투자 포인트를 보여준다. 단순히 가속기 수를 세는 것으로는 부족하다. 투자자들은 초거대 기업들이 어떤 칩을 구매하는지, 각 시스템에 얼마나 많은 메모리와 네트워킹 장비가 포함되어 있는지, 그리고 공급업체들이 이러한 함량을 수익성 있는 수익으로 전환할 수 있는지 이해해야 한다. AI 지출을 재평가하는 시장에서 이러한 구별은 광범위한 AI 자본 지출의 방향성보다 더 중요할 수 있다.
질문이나 정정이 있는 경우 [email protected]로 연락하십시오.
📄 원문 (English)
Data Center AI Chips Could Change the Winners: Broadcom and Marvell
This post may contain links from our sponsors and affiliates, and Flywheel Publishing may receive compensation for actions taken through them.
- Broadcom and Marvell stand to benefit as hyperscalers expand custom AI processors alongside merchant GPUs.
- AI training and inference impose different demands on computing, memory bandwidth, power and cost.
- The Information Network’s HBM model shows how processor architecture and memory content change demand.
Introduction
The selloff in semiconductor stocks has intensified questions about the sustainability of artificial intelligence infrastructure spending. Investors are reassessing the enormous capital commitments being made by hyperscalers, the returns those investments will generate, and whether the companies that dominated the first phase of the AI boom will maintain their competitive advantages.
One important development is receiving less attention than the fluctuations in Nvidia’s share price: hyperscalers are expanding their use of custom-designed AI processors. These chips can improve the economics of training and inference, reduce energy consumption, and give cloud operators greater control over their computing infrastructure. Broadcom (AVGO | AVGO Price Prediction) and Marvell (MRVL) are positioned to participate in this transition through custom silicon, networking and connectivity.
The investment question is not whether custom ASICs eliminate GPUs. It is how an expanding mix of processors changes the distribution of semiconductor revenue and HBM demand, even if total AI computing continues to grow.
Broadcom and Marvell: Two Ways to Invest in Custom Silicon
Broadcom is a leading supplier of custom AI processors and the networking chips that connect them. In April 2026, Broadcom disclosed a long-term agreement to develop and supply future generations of Google TPUs, along with networking and other components for Google’s next-generation AI racks through up to 2031. That agreement provides a tangible commercial basis for its custom silicon opportunity, rather than relying solely on broad market forecasts.
Broadcom’s competitive advantage includes the engineering resources needed to design sophisticated accelerators and the high-speed switching technologies required to connect thousands of devices. These two opportunities reinforce one another: expanding ASIC deployments can increase demand for network bandwidth even when the processor itself is designed for a narrower set of workloads. Its risks include customer concentration, expensive design programs, and pressure on pricing as cloud customers grow more technically sophisticated.
Marvell Technology offers a different mix of exposure. Its August 2026 Google agreement covers custom silicon programs associated with the TPU ecosystem, including inference accelerators, storage controllers, network interface controllers, memory interface controllers and near-memory computing. Marvell is therefore competing for semiconductor content throughout the AI system, not simply for the central accelerator.
The Google agreement also contains a purchase-linked warrant arrangement: most of the shares vest in tranches tied to cumulative custom-product revenue, with one tranche for each $500 million. This creates a measurable commercial incentive, although the contractual framework does not guarantee that all contemplated revenue will materialize. Marvell’s opportunity is substantial, but its dependence on large customers and program execution warrants particular attention.
The two companies are not identical investment propositions. Broadcom has an established custom accelerator and networking franchise; Marvell offers potential incremental share gains across accelerators, controllers and connectivity. For investors, the relevant measures are design wins, volume ramps, margins and recurring generations of products—not simply the number of chips announced.
Nvidia and AMD Remain Important Competitors
Nvidia (NVDA) continues to supply the flexible GPUs and integrated computing platforms that dominate many large-model deployments. Its software ecosystem and ability to support evolving models are meaningful competitive advantages. A hyperscaler may choose a custom ASIC for a stable, high-volume workload while continuing to use Nvidia GPUs for research, new model development and demanding inference tasks. The two approaches can coexist within the same data center.
Advanced Micro Devices (AMD) also supplies GPUs for AI acceleration and offers FPGA technology for specialized, reconfigurable inference. The company has opportunities across multiple processing architectures, although it must compete against Nvidia’s installed software base and against custom silicon programs designed specifically for hyperscaler needs.
Nvidia also faces a leadership transition following Jensen Huang’s November 12 departure and the appointment of Colette Kress as interim CEO. That development creates management uncertainty, but it would be a mistake to attribute the rise of custom ASICs primarily to the transition. Hyperscalers began developing proprietary processors years earlier because of the economics of computing at enormous scale.
Training and Inference: Why the Distinction Matters
Training develops an AI model by processing large datasets and adjusting model parameters. Inference uses the trained model to generate answers, analyze information or perform tasks. Both activities can require significant computing resources, but their performance requirements differ. Training emphasizes throughput and the coordination of many accelerators; inference often emphasizes cost per token, response latency, energy consumption and the ability to serve many simultaneous users.
Inference itself is not one uniform workload. Processing an incoming prompt, known as prefill, can make effective use of parallel computation. Generating an answer token by token, known as decoding, may be constrained by the speed at which model parameters are read from memory. Long contexts and multi-step agents increase memory and computational requirements, complicating claims that inference always needs less capable processors.
GPUs offer programmability and flexibility across training and inference. Custom ASICs can be tuned to particular workloads and deliver favorable economics when deployed at scale. CPUs handle smaller models and supporting tasks; FPGAs can serve specialized low-latency applications; NPUs support edge and client-device inference. SRAM-oriented architectures provide still another approach to moving data efficiently. These processors do not all use HBM, and their adoption cannot be translated directly into HBM shipments.
What Processor Architecture Means for HBM
High-bandwidth memory consists of stacked DRAM dies that provide high data-transfer rates close to the processor. The number of HBM stacks depends on the chip design, its memory capacity and bandwidth targets, and the generation of memory employed. A GPU can be used for inference, and a custom ASIC can be used for training; architecture should not be confused with workload.
According to Table 1, The Information Network’s illustrative 2025 model assigns 7.2 million merchant GPU units eight HBM stacks apiece and 1.5 million custom ASIC units three stacks apiece. This produces 57.6 million and 4.5 million HBM stacks, respectively. These are modeled volumes, not independently verified worldwide shipments, and they exclude processors without HBM.
The model’s most useful lesson is that accelerator unit volumes do not determine memory demand by themselves. Each processor’s HBM content matters. It would be misleading to treat the model as evidence that a particular percentage of worldwide HBM consumption goes to training or inference, since both categories of processors can perform both workloads.
Why Rising ASIC Memory Content Matters
Newer custom accelerators may require substantially more memory capacity and bandwidth than earlier generations. Consequently, custom ASIC growth could increase HBM demand through both rising unit shipments and higher memory content per unit. The effect can be illustrated by holding merchant GPU shipments constant while doubling custom ASIC volumes and varying the number of stacks per ASIC.
According to Table 2, doubling ASIC shipments from 1.5 million to 3 million units raises modeled total HBM stack demand by 7.2% if each ASIC retains three stacks. If the new ASICs use six stacks, total demand rises by 21.7% relative to the original model. These are sensitivity calculations, not forecasts, and do not incorporate changes in memory efficiency or GPU configurations.
The sensitivity also exposes an important uncertainty. More capable memory architectures, larger on-chip caches and software optimization can improve the amount of inference delivered per unit of memory. Accordingly, neither ASIC shipment growth nor AI token growth should be used alone to forecast HBM demand. Investors must consider memory stacks per device, stack capacity, bandwidth and the number of DRAM dies in each stack.
The Memory Suppliers Have Their Own Opportunity
Micron Technology (MU) can benefit from HBM demand generated by both GPUs and custom ASICs, provided its products meet customer qualification, bandwidth and yield requirements. Its opportunity is linked to total memory content and manufacturing economics rather than allegiance to a particular accelerator architecture.
SK hynix and Samsung Electronics face the same fundamental drivers. Increasing accelerator complexity can support higher HBM content, but additional capacity, manufacturing yields and competing memory architectures influence the ultimate revenue opportunity. Processors that rely on conventional DRAM or large SRAM arrays will not create the same HBM demand as processors built around multiple high-bandwidth stacks.
The competitive advantage in memory will therefore depend on the ability to qualify new HBM generations, manufacture them at acceptable yields and deliver the bandwidth and capacity required by evolving accelerator platforms. That is a separate contest from the competition between Nvidia, Broadcom and Marvell.
Investor Takeaway
The expansion of custom data center AI chips creates a credible opportunity for Broadcom and Marvell, but it does not imply that Nvidia GPUs are becoming obsolete. Hyperscalers have compelling reasons to deploy different processors for different workloads, balancing flexibility against cost, power and performance. As a result, the AI semiconductor market can become more diversified even while demand for merchant GPUs continues to grow.
Broadcom’s established TPU and networking relationships provide exposure to large-scale deployments. Marvell’s broader Google agreement offers potential gains across inference accelerators, controllers and connectivity. Their financial outcomes will depend on how much silicon content they win, the timing of customer ramps and the profitability of those programs. Meanwhile, Micron and other memory suppliers can benefit from rising HBM content across both merchant and custom architectures.
The Information Network’s HBM sensitivity analysis illustrates the essential investment point: counting accelerators is not enough. Investors must understand which chips hyperscalers buy, how much memory and networking each system contains, and whether suppliers can convert that content into profitable revenue. In a market reassessing AI spending, those distinctions may matter more than the broad direction of AI capital expenditure.
Contact [email protected] for any questions or corrections.
▶ 칩 라이브 24 홈으로 — chiplive24.com