AI 메모리 설계 변화 속 삼성, 엔비디아 NVHBM용 TSMC 3nm 베이스 다이 사용

읽는 시간 8분
Samsung to Use TSMC 3nm Base Dies for Nvidia NVHBM as AI Memory Design Shifts

메모리 공급사 3곳이 공유하는 제조 방식

2026년 10월 18일 공개된 업계 관계자들의 설명에 따르면, 엔비디아는 차세대 맞춤형 고대역폭 메모리의 베이스 다이에 TSMC의 3nm 제조 공정을 사용하도록 삼성전자와 SK하이닉스, 마이크론에 요청했다. 삼성전자 디바이스솔루션(DS) 부문은 내부 검토 후 요청을 받아들인 것으로 알려졌다. 이에 따라 삼성이 전통적으로 자체 처리해 온 메모리 제조 분야에 대만 파운드리 경쟁사가 참여하게 됐다.

목차
  1. 메모리 공급사 3곳이 공유하는 제조 방식
  2. 메모리 적층 구조 안에서 달라지는 점
  3. 엔비디아가 공급사별 공정을 통일하려는 이유
  4. 자체 공장도 계속 활용하는 삼성
  5. 서로 다른 길을 택한 마이크론과 SK하이닉스
  6. 엔비디아가 제시한 성능 수치의 의미
  7. 엔비디아 플랫폼 확장에 연결되는 아마존
  8. 전환의 전개 과정
  9. 핵심 내용

NVHBM이라는 이름의 이 제품은 7세대 고대역폭 메모리인 HBM4E를 기반으로 한다. 엔비디아는 메모리 다이에 6세대 DRAM 제조 기술인 1c 공정을 사용하라는 요구도 공급사들에 제시했다. 서로 다른 공급사의 메모리가 보다 일관되게 작동하도록 하고, 각 공급사 제품을 승인하는 데 필요한 엔지니어링 작업을 줄이려는 취지다.

삼성의 결정으로 TSMC와의 협력은 패키징 호환성에서 HBM 제조로 확대된다. 두 회사는 4년 전 삼성 메모리가 TSMC의 패키징 기술을 통해 그래픽 프로세서에 연결될 수 있도록 협력했다. 메모리 적층 구조 안에 들어가는 핵심 칩을 생산하는 것은 협력 범위를 한층 넓히는 일이다.

엔비디아의 제안은 베이스 다이의 역할도 바꾼다. NVHBM은 데이터 흐름을 제어하는 회로인 메모리 컨트롤러를 메인 프로세서에서 메모리 적층 구조의 맨 아래로 옮긴다. 이에 따라 베이스 다이는 메모리와 프로세서 사이를 단순히 연결하는 부품이 아니라 컴퓨팅 시스템에서 더 중요한 역할을 맡게 된다.

삼성이 이 아키텍처를 받아들이면 이전까지 함께 결정했던 두 가지 사안을 분리하게 된다. 정보를 저장하는 메모리를 누가 만들지, 그리고 메모리와 프로세서의 연결을 관리하는 로직 칩을 누가 제조할지다. 삼성은 메모리를 계속 공급하고, 지정된 베이스 다이는 TSMC가 제조하게 된다.

광고

메모리 적층 구조 안에서 달라지는 점

HBM은 여러 메모리 다이를 강력한 프로세서 옆에 층층이 쌓는 방식이다. 적층 설계는 짧은 거리로 대량의 데이터를 전송해 AI 가속기의 연산 장치가 필요한 정보를 충분히 공급받도록 돕는다. 다이는 전자 회로가 들어 있는 실리콘 조각 하나를 뜻한다.

코어 다이는 데이터를 저장한다. 그 아래에 놓이는 베이스 다이는 연결과 로직 기능을 처리한다. 기존 구성에서는 메모리 컨트롤러가 메인 가속기 다이에 남아 있다. NVHBM은 컨트롤러를 베이스 다이로 옮겨 프로세서에 다른 회로를 넣을 공간을 확보한다.

엔비디아는 칩을 연결하기 위해 PHY라고 불리는 맞춤형 물리 인터페이스도 사용한다. PHY는 전기 신호를 보내고 받는 회로다. NVHBM에 대한 기술 설명에 따르면, 표준 HBM에 쓰이는 넓은 병렬 인터페이스를 더 좁은 독자 직렬 연결 방식으로 대체한다. 이 방식은 연결 수를 줄이는 대신 더 높은 속도로 데이터를 전송한다.

기존 인터페이스의 규모를 보면 이런 변화가 매력적인 이유를 알 수 있다. HBM4는 폭 64비트인 채널 32개를 갖춰 총 폭이 2,048비트다. 이 연결을 관리하려면 상당한 회로와 칩 간 복잡한 배선이 필요하다. NVHBM은 이러한 부담을 덜고 칩 아래에서 연결을 담당하는 층인 인터포저의 배선을 단순화하는 것을 목표로 한다.

엔비디아는 NVLink Fusion을 통해 맞춤형 실리콘 파트너에게 NVHBM을 구성 요소로 제공한다. 표준 HBM은 별도의 제품군으로 남는다. NVHBM을 선택하는 파트너는 자사 가속기 시스템의 일부로 엔비디아가 지정한 컨트롤러와 연결 설계를 사용하게 된다.

엔비디아가 공급사별 공정을 통일하려는 이유

엔비디아가 제안한 제조 방식은 TSMC의 3nm 로직 공정과 메모리 층에 적용되는 첨단 DRAM 공정을 결합한다. 로직과 DRAM은 서로 다른 역할을 하며 제조 방식도 다르다. 3nm는 로직 제조 세대를, 1c는 DRAM 기술 세대를 가리킨다.

삼성전자와 SK하이닉스, 마이크론은 각기 다른 설계와 생산 방식을 사용한다. 가속기 개발사가 두 곳 이상의 회사에서 메모리를 구매하려 할 때 이런 차이로 추가 시험이 필요할 수 있다. 베이스 다이 공정을 통일하면 개발사는 더 일관된 출발점을 확보할 수 있다.

광고

검증은 프로세서와 메모리, 패키지가 목표 속도와 전력 수준, 신뢰성 기준에 맞게 작동하는지 확인하는 과정이다. 구현 방식이 달라질 때마다 이 작업을 반복하면 엔지니어링 시간이 든다. 엔비디아의 제안은 메모리 공급사를 바꿀 때 필요한 별도의 통합 작업을 줄이려는 것이다.

마이크론은 차세대 DRAM 공정을 1-gamma라고 부르며, 삼성과 SK하이닉스의 용어로는 1c 세대와 대체로 맞먹는다. 따라서 통일된 목표는 모든 공급사의 메모리 공정을 똑같이 만드는 것이 아니라, 회사별로 이름이 다른 제조 세대를 하나로 묶는다.

TSMC는 경쟁 관계인 메모리 제품들의 공통 제조 파트너가 된다. 이를 통해 엔비디아는 공급사별 구현을 단순화할 수 있지만, 중요한 생산 단계를 한 파운드리에 집중하게 된다. 삼성전자가 대체 제조 경로를 검토하는 것은 충분한 베이스 다이를 확보하는 일이 실질적으로 중요하기 때문이다.

자체 공장도 계속 활용하는 삼성

삼성은 표준 HBM에 자체 통합 제조 방식을 유지할 계획이다. 삼성의 HBM4와 HBM4E 제품은 베이스 다이에 자체 4nm 공정을, 코어 다이에 1c 공정을 사용한다. 메모리 층은 한국의 화성 및 평택 캠퍼스에서 생산된다.

삼성은 2026년 초 HBM4 양산을 시작했다. 10월 업계 설명 당시 HBM4E는 양산을 위한 인증 절차를 진행 중이었다. 인증은 제품이 요구되는 기준에 맞춰 일관되게 생산될 준비가 됐는지 확인하는 시험 단계다.

AMD를 비롯한 다른 고객을 위한 맞춤형 HBM도 삼성의 통합 제조 방식을 유지할 것으로 예상된다. 따라서 NVHBM 관련 결정은 엔비디아의 요구에 한정된 것으로, 베이스 다이를 자체 생산하는 방식에서 회사 전체가 벗어나는 움직임은 아니다.

삼성 메모리사업부는 TSMC가 제조하는 베이스 다이의 설계와 최적화 지원을 주도할 것으로 예상된다. 이는 삼성 내부의 역할 분담에도 변화를 가져온다. 지금까지는 시스템LSI사업부와 파운드리사업부가 자체 조달 베이스 다이 생산에 전통적으로 기여해 왔다.

삼성은 수요가 TSMC의 생산 능력을 넘을 경우 자사 파운드리에서 NVHBM 베이스 다이를 제조할 수 있을지도 검토하고 있다. 이 대체 방안은 또 다른 생산 선택지를 확보해 주지만, 현재 알려진 엔비디아의 사양은 TSMC의 3nm 공정을 중심으로 한다.

광고

서로 다른 길을 택한 마이크론과 SK하이닉스

마이크론의 변화는 엔비디아 맞춤형 제품에 그치지 않는다. 회사 측에 따르면 엔비디아와 개발한 NVHBM과 표준 HBM4E 모두 외부 파운드리에서 제조한 베이스 다이를 사용한다. 해당 제조는 TSMC가 맡을 것으로 예상된다.

HBM4에서 마이크론은 자체 1-beta 공정으로 만든 메모리 다이와 사내에서 제조한 베이스 다이를 결합한다. HBM4E는 메모리 층에 1-gamma 공정을 적용하고 베이스 다이 생산을 마이크론 공장 외부로 옮긴다. 즉, 마이크론은 더 새로운 메모리 공정을 적용하는 동시에 외부 로직 제조 파트너를 도입해 적층 구조의 두 주요 부분을 모두 바꾸고 있다.

마이크론의 최고운영책임자(COO) 마니시 바티아는 NVHBM이 평균판매가격 상승과 수익성 개선을 가져올 것으로 기대한다. HBM은 이미 프리미엄 가격에 판매되고 있으며, 맞춤형 제품에 필요한 추가 작업과 기능이 더 큰 가치를 창출한다는 것이 그의 설명이다. 따라서 베이스 다이를 외주 생산하면서도 수익성이 높아질 것으로 기대할 수 있다.

SK하이닉스는 HBM4 베이스 다이에 TSMC의 12nm 로직 공정을 이미 사용하고 있다. 업계 설명에 따르면 HBM4E와 미래의 맞춤형 HBM에는 TSMC의 3nm 공정이 우선 적용된다. 추가 역할을 맡게 될 부품에 더 첨단 로직 제조 공정을 도입하는 셈이다.

SK하이닉스는 올해 초 엔비디아 GTC 행사에서 스트림 DQ 기술 기반의 맞춤형 HBM 개념도 선보였다. 이 개념은 프로세서에 데이터를 지속적으로 전달하고 공급하는 데 초점을 둔다. 세 공급사 모두 베이스 다이를 데이터 이동에 더 적극적으로 관여하는 부품으로 만드는 방향을 택하고 있다.

엔비디아가 제시한 성능 수치의 의미

엔비디아는 NVHBM이 표준 HBM4E보다 스택당 대역폭을 최대 30% 높이고 HBM 전력 소비를 15% 줄일 수 있다고 밝혔다. 대역폭은 일정 시간에 이동할 수 있는 데이터의 양이다. 메모리에서 정보를 기다리는 AI 프로세서에 더 큰 대역폭은 도움이 될 수 있다.

간단히 비교하면, 표준 HBM4E 스택이 일정 시간에 데이터 100단위를 전달할 때 엔비디아가 주장하는 최대 개선치는 이를 130단위로 높인다. 비교 대상 메모리가 전력 100단위를 쓴다면, 주장된 감소율에 따라 HBM 소비 전력은 85단위가 된다. 이는 백분율을 수치로 풀어 설명한 예시이며 실제 출시 제품을 가리키지는 않는다.

광고

엔비디아는 XPU 연산 다이 면적을 최대 25% 확보할 수 있다고도 설명한다. XPU는 맞춤형 AI 가속기를 포함하는 컴퓨팅 프로세서를 폭넓게 가리키는 용어다. 메모리 회로를 다른 곳으로 옮기면 설계자는 실리콘의 더 많은 부분을 연산 기능에 할당할 수 있다.

엔비디아의 발표에 대한 다른 설명에서는 메인 다이의 연산 성능을 최대 30% 높일 수 있다는 수치도 제시됐다. 이는 잠재적인 연산 자원을 나타내며, 25%는 아키텍처 변화로 확보되는 실리콘 면적을 의미한다. 확보된 공간을 어떻게 활용할지는 설계자가 결정해야 한다.

맞춤형 PHY는 인터페이스가 차지하는 면적을 최대 67% 줄이는 것으로 설명된다. 한 기술 분석은 핀 수 감소를 근거로 이 수치를 추정했다. 엔비디아가 제시한 대역폭과 전력, 면적 비교는 표준 HBM4E를 기준으로 하며, 당시 이 세대 제품은 아직 출시 전이었다.

AI 서비스에서는 메모리가 병목일 때 데이터 이동 속도가 빨라지면 응답 생성 시간이 단축될 수 있다. 메모리 전력 감소는 시스템 설계자가 전력 예산 안에서 활용할 수 있는 여지를 넓혀준다. 전체 서버에 미치는 효과는 메모리뿐 아니라 프로세서와 작업 부하, 네트워크, 냉각에도 좌우된다.

엔비디아 플랫폼 확장에 연결되는 아마존

아마존의 아나푸르나랩스는 처음으로 발표된 NVHBM 파트너다. 이 칩 설계 사업부는 아마존웹서비스(AWS)용 트레이니엄 가속기를 개발한다. 이에 따라 엔비디아는 자체 AI 프로세서도 만드는 기업에 메모리 기술을 공급할 길을 얻게 됐다.

아나푸르나랩스 부사장 나페아 바샤라는 발표와 함께 공개한 발언에서 협력의 목적을 다음과 같이 설명했다.

이번 기술 협력이 향후 AWS 인프라 설계에 도움이 되기를 기대합니다.

아나푸르나의 트레이니엄 4는 NVLink Fusion을 지원할 것으로 예상된다. NVHBM 도입 시점은 트레이니엄 4와 함께이거나 그 이후 세대가 될 것이라는 설명이 나왔다. 아마존의 NVHBM 구현에 적용될 정확한 칩 세대와 상용화 시기는 공개적으로 확정되지 않았다.

NVLink Fusion은 NVLink 칩렛, NVLink-C2C, NVLink 스위치, MGX 시스템 및 랙을 포함한 기술을 파트너에게 제공한다. 이러한 기술과 시스템 설계는 맞춤형 프로세서를 엔비디아의 컴퓨팅 인프라에 연결하는 데 쓰인다. NVHBM은 이 구성에 메모리 서브시스템을 더한다.

보도에 따르면 미디어텍은 NVHBM 발표 5일 뒤 NVLink Fusion을 채택하고 자사의 XPU 고객에게 제공할 계획을 세웠다. 이는 브로드컴과 마벨도 경쟁하는 맞춤형 가속기 시장에 엔비디아가 진출할 또 다른 경로를 마련한다. 마벨은 2024년 12월 메모리 제어 위치를 옮기는 비슷한 방식을 설명한 바 있어, 고객 확보와 시스템 통합이 경쟁에서 중요한 요소가 되고 있다.

광고

전환의 전개 과정

NVHBM 개발에는 아키텍처와 공급사 관계, 고객 도입의 변화가 함께 반영됐다. 이 과정을 보면 삼성의 10월 결정이 중요한 이유를 알 수 있다. 엔비디아가 먼저 공통 설계를 제시했고, 이후 메모리 제조사들이 이를 어떻게 생산할지 결정해야 했다.

  • 2024년 12월: 마벨이 메모리 제어 기능의 위치를 다르게 배치하는 유사한 개념을 구체화했다.
  • 2026년 초: 삼성이 HBM4 양산을 시작했고, SK하이닉스는 GTC에서 스트림 DQ 기반 맞춤형 HBM 개념을 선보였다.
  • 2026년 8월 26일: 엔비디아가 NVLink Fusion의 새 구성 요소로 NVHBM을 발표하고 첫 파트너로 아나푸르나랩스를 지명했다.
  • 5일 뒤: 미디어텍이 NVLink Fusion을 채택하고 자사의 XPU 고객에게 제공할 계획이라고 보도됐다.
  • 2026년 10월 18일: 업계 관계자들의 설명을 통해 TSMC 3nm 베이스 다이를 요청한 엔비디아와 내부 검토 후 이를 받아들인 삼성의 결정이 알려졌다.

삼성의 결정으로 메모리 공급사 전반에 일관된 구현을 적용하려는 엔비디아의 제조 계획이 구체화되고 있다. 동시에 삼성은 자체 베이스 다이에 대한 투자를 이어가 표준 HBM과 다른 고객에게 공급하는 맞춤형 제품을 위한 별도의 경로도 유지한다.

핵심 내용

  • 보도에 따르면 엔비디아는 삼성전자와 SK하이닉스, 마이크론에 NVHBM 베이스 다이용으로 TSMC의 3nm 공정을 사용하라고 요청했다.
  • NVHBM은 메모리 컨트롤러를 메인 프로세서에서 HBM 적층 구조의 베이스 다이로 옮긴다.
  • 삼성은 요청을 받아들였지만 표준 HBM과 다른 맞춤형 제품은 자체 제조를 유지할 계획이다.
  • 마이크론은 NVHBM과 표준 HBM4E 모두 베이스 다이를 외부에서 생산할 계획이며, SK하이닉스는 HBM4에서 이미 TSMC와 협력하고 있다.
  • 엔비디아는 표준 HBM4E와 비교해 대역폭을 최대 30% 높이고 HBM 전력 소비를 15% 줄일 수 있다고 주장한다.
  • 아마존의 아나푸르나랩스가 처음으로 발표된 파트너이며, 삼성은 자체 파운드리를 대체 생산 경로로 활용할 수 있을지 검토하고 있다.
이 기사 공유

추천 기사