HBM이란, 고대역폭 메모리 반도체, 작동원리, 필요성, 장점, 인사이트

HBM이 뭐길래 급부상한 건지, 초창기 외면받던 HBM이 다시 각광받게 된 까닭과 기술적인 면 그리고 시장성에 대해 알아본다.

 

1. HBM이란

HBM은 고대역폭 메모리(High Bandwidth Memory)를 뜻하며 말그대로 다른 메모리 반도체에 비해 대역폭이 높은 반도체 칩이다. CPU나 GPU와 같은 처리 장치와 연결되어 빠른 데이터 전송을 가능하게 하며, AI 서버의 학습과 연산 성능을 크게 향상시킨다.

 

고대역폭 메모리칩은 간단히 말해 여러 개의 메모리 칩을 수직으로 쌓아 구성한 것인데, 구조가 복잡하다 보니 수율이 낮아던 탓에 HBM은 초창기엔 시장에서 외면받았다. 하지만 기술력이 발달하고 생산성이 향상되고 인공지능 수요에 힘입어 HBM의 입지는 완전히 뒤바뀌었다.

 

참고글: 디램(DRAM)이란?, 필요성, 구조, 기술력

 

2. 작동원리

기존 메모리칩이 2D라면 HBM은 여러 개의 메모리 칩을 수직으로 적층 시키는 3D 스택형 메모리로 구성되어 있다. 

HBM::고대역폭메모리 단면 (Source: AMD)

메모리 레이어를 여러 층 쌓은 뒤 TSV 공법으로 레이어들을 연결해 대역폭과 전송 속도를 크게 향상할 수 있다.

HBM은 각각의 메모리 칩이 전용 통신 채널을 통해 서로 연결되어 있으며, 이들은 인터포저라고 하는 초고속 인터커넥트를 통해 CPU나 GPU와 같은 처리 장치에 연결된다.

 

같은 시간에 더 많은 데이터가 오갈수록 인공지능(AI) 처리 속도가 더 빨라지는데, 고대역폭 메모리가 AI시대에 다시 각광받게 된 요지다.

 

3. 고대역폭 메모리 장점 (vs GDDR)

HBM vs GDDR (AMD)

DRAM과 HBM을 비교했을 때 HBM은 다음과 같은 장점이 있다.

• 높은 메모리 대역폭:  한번에 많은 양의 데이터 전송이 가능해 데이터 처리속도가 빠름
• 전력 소모: 소비 전력이 낮아 아낀 전력을 GPU에 줘서 더욱 성능을 이끌어 낼 수 있다.
• 칩 면적: 적층을 통해 PCB에서 차지하는 메모리 칩 모듈의 총면적으로 줄일 수 있다. 
• 짧은 레이턴시: 적층을 통해 여러 메모리 채널을 갖추어 통신 속도와 높은 대역폭을 동시에 구현

단점도 존재하는데 좀 전에 언급한 복잡한 구조로 인한 비싼 가격과 사후 수리의 어려움이다. 또한 GDDR에 비해 낮은 클럭 스피드(Clock Speed)와 오버클럭 마진이 있다. 기본적으로 HBM 메모리의 방열에 불리한 구조를 가지고 있어 발열 문제 때문에 오버클럭에 제한이 있다.

 

4. 인사이트 (시장성)

HBM은 사실 이제 시작된 단계로 전체 D램 시장에서 HBM의 점유율이 1%를 밑돌 것으로 전문가들은 보고 있다. 가파른 성장세를 보일지라도 전체 반도체 시장에서 좌우할 영향력을 갖기까지는 많은 시간이 걸릴 것이라는 게 대체적이다.

시장조사업체 모르도르인텔리전스에 따르면 HBM 시장은 2023년, 20억 4186만 달러에서 2028년까지 63억 2150만 달러로 3배 성장할 것으로 분석하고 있다.

 

지난해 기준 HBM 시장점유율은 SK하이닉스가 50%, 삼성전자가 40%, 마이크론이 10%로 추정되며, 아직 HBM 시장의 절대적 규모가 작아 시장조사기관의 점유율 추정의 신뢰도가 높지 않다.

 

삼성전자와 SK하이닉스가 서로 HBM 1위라고 선전하고 있는데 기술력의 진가는 고객의 선택을 봐야 알 수 있을 듯하다. 현재까지 SKHynix의 HBM3는 엔비디아의 H100에 탑재되었고, 삼성전자의 HBM3는 인텔과 미국 국립연구소가 구축한 슈퍼컴퓨터에 탑재되었다.