[서울=뉴스핌] 서영욱 기자 = 엔비디아가 인공지능(AI) 가속기의 핵심 부품인 고대역폭메모리(HBM)의 내부 구조까지 직접 설계하면서 삼성전자와 SK하이닉스의 차세대 HBM 경쟁도 새로운 국면을 맞고 있다.

D램을 더 높이 쌓고 용량과 대역폭을 끌어올리던 경쟁에서 벗어나 고객의 AI 가속기에 맞춰 HBM의 구조와 기능을 최적화하는 '맞춤형 HBM'이 새로운 승부처로 떠오르고 있어서다.

삼성전자는 메모리부터 로직 설계, 파운드리, 첨단 패키징까지 자체 역량을 연결하는 '수직통합'으로 대응하고 있다. SK하이닉스는 HBM 시장의 선두 경쟁력을 기반으로 TSMC·엔비디아 등과 협업하는 '개방형 연합'을 앞세워 맞춤형 HBM 주도권 경쟁에 나섰다.

◆ 엔비디아의 NVHBM 등장…HBM 베이스다이 역할 커진다

2일 반도체 업계에 따르면 이 같은 변화를 보여주는 대표적인 기술이 엔비디아가 최근 공개한 'NVHBM'이다.

기존 HBM에서는 AI 가속기와 메모리 사이의 데이터 이동을 관리하는 '메모리 컨트롤러'가 그래픽처리장치(GPU)나 XPU의 컴퓨트 다이에 있다.

NVHBM은 이를 HBM의 베이스다이로 옮긴다. 엔비디아가 직접 설계한 메모리 컨트롤러를 HBM 내부에 넣어 데이터 처리 효율을 높이는 구조다.

이에 따라 메모리 컨트롤러가 차지하던 XPU 면적을 연산에 활용할 수 있게 된다. 엔비디아는 NVHBM이 표준 HBM4E보다 메모리 대역폭을 최대 30% 높이고 HBM 전력 소비는 15% 낮추는 동시에 XPU 컴퓨트 다이에서 최대 25%의 추가 면적을 확보할 수 있다고 설명했다.

엔비디아는 향후 자사 GPU에도 같은 기술을 적용하고 복수의 메모리 업체가 공급할 수 있는 NVHBM 구현 방식을 구축할 계획이다.

메모리 컨트롤러처럼 AI 가속기가 담당하던 기능이 HBM 베이스다이로 옮겨가면서 베이스다이 설계가 HBM뿐 아니라 AI 가속기 전체의 성능과 전력 효율에도 영향을 미치게 된다.

이에 따라 지금까지 적층 단수와 용량, 대역폭 확대가 HBM의 핵심 경쟁력이었다면 앞으로는 베이스다이에 어떤 로직을 넣고 이를 고객의 GPU·주문형 반도체(ASIC)와 얼마나 효율적으로 연결하느냐가 중요해질 전망이다.

◆ 삼성, 메모리부터 패키징까지…'수직통합'으로 승부

이 같은 변화는 메모리뿐 아니라 로직 반도체 설계와 생산 능력까지 갖춘 삼성전자에는 새로운 기회가 될 수 있다. HBM 베이스다이에 들어가는 기능이 늘어날수록 D램 성능뿐 아니라 고객이 원하는 기능을 설계하고 이를 실제 반도체로 구현하는 능력이 중요해지기 때문이다.

삼성전자는 메모리와 로직 설계, 파운드리, 첨단 패키징을 모두 자체적으로 보유하고 있다. 고객의 AI 가속기에 맞춰 HBM을 설계하고 베이스다이를 생산한 뒤 D램 적층과 패키징까지 한 회사 안에서 연결할 수 있는 구조다.

이 같은 강점은 HBM4부터 본격적으로 활용되고 있다. 삼성전자는 HBM4에 최신 D램인 10나노급 6세대(1c) D램을 적용하고, D램과 AI 가속기를 연결하는 베이스다이는 자체 파운드리의 4나노 공정으로 생산했다.

메모리사업부와 파운드리사업부가 설계 단계부터 제품과 공정을 함께 최적화하는 설계·공정 공동 최적화(DTCO)를 통해 성능과 전력 효율, 수율을 높이는 방식이다.

삼성전자는 내년부터 고객의 AI 가속기와 GPU 아키텍처에 따라 용량과 속도, 전력 특성, 인터페이스 등을 최적화한 '커스텀 HBM' 샘플도 순차 공급할 계획이다.

HBM 경쟁이 D램 자체의 성능을 넘어 고객의 AI 가속기와 함께 설계하는 방향으로 확대될수록 메모리부터 로직 설계, 파운드리, 패키징까지 아우르는 삼성전자의 수직통합 역량을 활용할 여지도 커질 전망이다.

◆ SK하이닉스, TSMC·엔비디아와 '개방연합'…cHBM 공동설계

SK하이닉스는 HBM 시장에서 쌓은 고객 관계와 기술력에 외부 파트너의 역량을 결합하는 전략을 택했다.

핵심은 개발 중인 'cHBM(Custom HBM)'이다. 고객 요구에 따라 기존 GPU나 ASIC이 담당하던 일부 연산·제어 기능을 HBM 베이스다이로 옮겨 시스템 전체의 성능과 전력 효율을 높이는 방식이다.

자체 파운드리가 없는 SK하이닉스는 TSMC와의 협력으로 베이스다이의 로직 기능 확대에 대응하고 있다. HBM4부터 TSMC의 선단 로직 공정을 활용하고 있으며 양사는 베이스다이 개발뿐 아니라 HBM과 GPU·XPU를 연결하는 첨단 패키징 분야에서도 협력을 확대하고 있다.

엔비디아와의 관계도 HBM 공급을 넘어 차세대 AI 메모리 공동개발로 넓어지고 있다. SK하이닉스와 엔비디아는 지난 7월 HBM을 포함한 차세대 AI 메모리를 공동 개발하고 안정적인 공급체계를 구축하기 위한 장기 협력을 강화하기로 했다.

SK하이닉스는 이를 통해 단순 HBM 공급업체에서 고객의 AI 시스템 설계 단계부터 참여하는 '크리에이터'로 역할을 확대한다는 구상이다.

반도체업계 관계자는 "차세대 HBM 경쟁은 누가 D램을 더 높이 쌓느냐를 넘어 고객의 AI 칩에 얼마나 최적화된 메모리를 설계할 수 있느냐가 중요해지는 방향으로 가고 있다"며 "메모리 업체가 고객의 AI 칩 설계 단계부터 참여해 함께 최적의 구조를 만들어가는 공동설계 역량이 향후 HBM 경쟁력을 좌우할 것"이라고 말했다.

syu@newspim.com