Samsung collaborates with TSMC for Nvidia’s custom HBM chips
🇰🇷 한글 번역
서울경제신문은 삼성전자가 엔비디아의 차세대 맞춤형 고대역폭 메모리(HBM) 칩의 베이스 다이 생산을 위해 TSMC의 3나노미터 공정을 사용하기로 협력하고 있다고 보도했다.
보도에 따르면, 이는 삼성이 HBM 제조 단계에서 TSMC와 협력한 것이 처음이다.
심층 산업 인텔리전스에 접근하라
독특한 데이터, AI, 인간 전문 지식을 결합한 단일 플랫폼으로 비교할 수 없는 명확성을 경험하라.
보도된 파트너십은 AI 칩이 HBM 성능과 공급 측면에서 병목 현상에 직면한 시점에 이루어졌다.
기존 메모리에서의 데이터 전송 속도가 그래픽 처리 장치(GPU)의 처리 능력을 따라가지 못함에 따라, 엔비디아는 TSMC의 첨단 제조 기술과 용량을 활용하여 더 높은 성능을 추구하고 있다.
신문이 인용한 소식통들에 따르면, 엔비디아는 자체 NVHBM 메모리의 베이스 다이를 삼성전자와 TSMC와 공동 설계하고 있다.
HBM 스택 하단에 위치한 베이스 다이에는 메모리의 데이터 전송 속도를 설정하는 데 중요한 논리 회로가 포함되어 있어 제품의 전반적인 경쟁력에 영향을 미친다.
새로운 NVHBM 베이스 다이의 특징은 이전에 GPU 자체에 탑재되었던 메모리 컨트롤러가 통합되었다는 점이다.
특정 기능을 베이스 다이로 이전함으로써 엔비디아는 추가 컴퓨팅 회로를 위해 GPU 공간을 확보할 수 있다.
이러한 설계는 표준 HBM 대비 물리적 레이어를 60% 축소하여 표준 HBM4E 대비 최대 30% 더 많은 메모리 대역폭과 15%의 전력 소비 감소를 가능하게 한다.
엔비디아의 요구사항은 회로의 더 밀집된 통합과 높은 제조 수율을 요구하는 설계 변경을 수용하기 위해 TSMC의 3나노미터 공정이 필요하게 한다.
산업 소식통들은 이 공정의 TSMC 수율이 약 60%인 삼성의 유사한 2나노미터 공정에 비해 90% 이상이라고 인용하며, TSMC에서의 생산 집중을 뒷받침했다.
HBM에 대한 수요 증가도 한 요인으로, UBS는 내년 필요한 양이 약 615억 기가비트로 올해 대비 91% 증가할 것으로 전망했다. 공급은 약 10% 부족할 것으로 예상된다.
삼성전자는 메모리 코어 다이의 출력을 늘리고 시설에서 베이스 다이 생산을 확장할 계획이지만, 현재 용량은 제한적이다.
TSMC는 대만의 새로운 생산 라인뿐만 아니라 향후 애리조나와 일본의 라인으로 자체 3나노미터 용량을 확장하고 있다.
이러한 협력에도 불구하고, 삼성전자는 향후 수요를 위해 자체 파운드리 공정을 사용하여 베이스 다이를 제조할 준비를 하고 있다.
📄 원문 (English)
Samsung Electronics is working with Taiwan Semiconductor Manufacturing Company (TSMC) to use its 3nm process for producing base dies in Nvidia’s next generation of custom high-bandwidth memory (HBM) chips, reported the Seoul Economic Daily newspaper.
According to the report, this marks the first time Samsung has collaborated with TSMC specifically at the HBM manufacturing stage.
Access deeper industry intelligence
Experience unmatched clarity with a single platform that combines unique data, AI, and human expertise.
The reported partnership comes as AI chips face a bottleneck in both HBM performance and supply.
Data transfer speeds from existing memory are not keeping pace with the processing capabilities of graphics processing units (GPUs), prompting Nvidia to pursue higher performance by tapping into TSMC’s advanced manufacturing technology and capacity.
Sources cited by the newspaper said Nvidia is co-designing the base die for its proprietary NVHBM memory with both Samsung Electronics and TSMC.
The base die, located at the bottom of the HBM stack, contains logic circuits critical for setting the memory’s data transfer speed and, therefore, impacts the overall competitiveness of the product.
A distinguishing feature of the new NVHBM base die is the integration of the memory controller, which was previously housed on the GPU itself.
By relocating certain functions to the base die, Nvidia is able to free up GPU space for added computing circuits.
This design, combined with shrinking the physical layer by 60% compared to standard HBM, enables up to 30% greater memory bandwidth and a 15% reduction in power consumption versus the standard HBM4E.
Nvidia’s requirements necessitate TSMC’s 3nm process to accommodate the shift in design, which demands denser integration of circuits and high manufacturing yield.
Industry sources cited TSMC’s yield for this process at over 90%, compared to approximately 60% for Samsung’s comparable 2nm process, supporting consolidation of production at TSMC.
Rising demand for HBM is also a factor, with UBS projecting an increase to approximately 61.5 billion gigabits needed next year, which is a 91% rise from this year. Supply is expected to fall short by about 10%.
While Samsung plans to increase output of memory core dies and expand base die production at its facilities, current capacity remains limited.
TSMC is expanding its own 3nm capacity with new production lines in Taiwan, as well as future lines in Arizona and Japan.
Despite this collaboration, Samsung Electronics is also preparing to manufacture the base die using its own foundry processes for future demand.
▶ 칩 라이브 24 홈으로 — chiplive24.com