HBM(High Bandwidth Memory): 고대역폭 메모리란?
2025년 3월 4일 자 신문에 게재된 내용을 보면 SK하이닉스는 이미 2025년 올해의 HBM 물량을 '완판'한 상태라고 보도하였습니다. 상반기에는 'HBM3 E 16단'을, 하반기에는 커스텀(맞춤형) 제품인 '6세대 HBM4' 공급을 본격화한다는 목표다. 주력 제품은 5세대 HBM인 'HBM3 E 12단' 제품이라고 발표하였습니다. 한 기업의 제품이 한 해 동안 판매해야 할 목표를 이미 달성하였다는 사실은 매우 이례적인 일입니다. 그럼에도 불구하고 SK하이닉스의 이와 같은 소식은 HBM(고대역폭 메모리)의 수요가 타 회사의 제품보다 앞선 기술력을 보여주고 있다는 사실과 이를 활용하는 기업들의 요구 사항들에 최적화되어 있다는 것을 보여 주는 것입니다. 이처럼 메모리 반도체 시장에서 가장 핫하여 이슈 몰이를 하고 있는 HBM이란 무엇인지 자세히 살펴보겠습니다.
HBM(High Bandwidth Memory)은 기존의 GDDR 메모리보다 훨씬 빠른 속도를 제공하는 차세대 메모리 기술입니다. 3D 적층 구조를 이용해 데이터 전송 속도를 높이고, 전력 효율성을 극대화하면서도 차지하는 공간을 줄이는 것이 주요 특징입니다. 이러한 이유로 HBM은 인공지능(AI) 연산, 데이터센터, 고성능 컴퓨팅(HPC) 등에서 각광받고 있습니다. 특히, 엔비디아(NVIDIA)와 AMD 같은 GPU 제조업체뿐만 아니라, 클라우드 컴퓨팅 서비스 제공업체와 반도체 기업들 또한 HBM 기술의 발전에 집중하고 있습니다.
글로벌 기업들의 수요
엔비디아(NVIDIA)와 AMD
엔비디아(NVIDIA)와 AMD의 고성능 GPU의 필수 요소입니다. 엔비디아와 AMD는 그래픽 카드(GPU) 시장에서 치열하게 경쟁하는 대표적인 기업입니다. 두 회사 모두 AI 연산과 고성능 그래픽 처리를 위해 HBM을 적극적으로 활용하고 있습니다. 엔비디아와 AMD 두 기업들의 HBM의 수요와 활용 등을 좀 더 심도 있게 알아보겠습니다.
1. 엔비디아(NVIDIA)의 HBM
엔비디아는 AI 및 데이터센터 시장에서 강력한 입지를 다지고 있으며, 최신 GPU에 HBM 기술을 도입해 연산 성능을 극대화하고 있습니다. 예를 들어, 엔비디아의 A100 및 H100 GPU는 HBM2 e 및 HBM3 메모리를 사용하면서 데이터 처리 속도를 기존대비 크게 향상했습니다. 특히, 딥러닝 모델 훈련과 추론 작업에서 HBM은 필수적인 역할을 하였고, 이로 인한 AI 기반 기업들이 엔비디아의 GPU를 선택하게 하게 된 중요한 이유 중 하나가 HBM 입니다.
2. AMD와 HBM
AMD는 라데온(Radeon) 시리즈 그래픽 카드뿐만 아니라, 서버 및 AI 연산용 GPU에서도 HBM을 적극 채택하고 있습니다. AMD는 세계 최초로 HBM을 적용한 GPU(라데온 R9 퓨리 X)를 출시한 기업이기도 합니다. 이후 인공 지능 및 고성능 연산 컴퓨팅(HPC) 시장을 겨냥한 MI200 시리즈 GPU에서도 HBM을 적용하여 높은 대역폭과 빠른 데이터 처리 속도를 제공하고 있습니다. 이처럼, 엔비디아와 AMD는 HBM을 활용하여 그래픽 카드와 AI, 데이터센터 시장에서 HBM의 성능을 통해 지배력을 높여가고 있음을 입증하였고, 앞으로도 고성능 GPU에서 HBM 채택이 늘어날 것으로 예측하고 있습니다.
데이터센터와 클라우드 컴퓨팅 기업
HBM은 데이터센터와 클라우드 컴퓨팅 기업들의 초고속 연산을 위한 필수 제품입니다. HBM은 데이터센터와 클라우드 컴퓨팅 서비스 제공 업체에서도 매우 중요한 역할을 합니다. 특히, 구글, 아마존, 마이크로소프트 같은 글로벌 IT 기업들이 HBM을 기반으로 한 하드웨어를 구축하기 위해 도입을 하고 있습니다. HBM이 데이터센터에서 주로 사용되는 이유는 AI 및 머신러닝 연산을 위해 사용하기 때문입니다. 구글의 TPU, 엔비디아의 DGX 시스템, 그리고 AWS의 AI 가속기 들은 대부분 HBM을 사용하고 있습니다. 머신러닝과 딥러닝 연산은 방대한 양의 데이터를 빠르게 처리해야 하므로, 높은 대역폭을 제공하는 HBM은 필수적입니다. 또한, 클라우드 컴퓨팅 제공업체들은 고객들에게 고성능 가상 머신(VM)을 제공하기 위해 HBM을 기반으로한 GPU를 주로 사용합니다. 예를 들어, AWS의 EC2 인스턴스 중 AI 연산을 지원하는 제품들은 대부분 HBM 기반 GPU를 탑재하고 있습니다. HBM을 사용하는 이유는 데이터 처리 속도를 높일 수 있고, AI 모델 훈련을 더욱 효율적으로 만들기 위해서입니다. 결국 AI 및 머신러닝 데이터센터와 클라우드 컴퓨팅 서비스를 제공하는 업체들에게 있어서는 HBM의 도입은 필수적인 것입니다. 따라서 앞으로도 서버 및 가속기 칩에서 HBM의 활용과 역할은 매우 중요할 것으로 예상합니다.
반도체 및 슈퍼컴퓨터 시장
HBM이 핵심 역할을 하는 곳에는 반도체 및 슈퍼컴퓨터 시장도 있습니다. HBM은 단순히 GPU에만 사용되는 것이 아니라 반도체 및 슈퍼컴퓨터 시장에서도 매우 중요한 역할을 할 것으로 예상합니다. 특히, 메모리 반도체를 생산함에 있어 급증하는 수요를 따라가기 위한 생산시설 및 기술력이 중요합니다. HBM을 생산하는 메모리 반도체 기업으로는 삼성전자, SK하이닉스, 마이크론이 있습니다. 이들은 지속적으로 새로운 기술을 선보이며 HBM을 통한 메모리 반도체 시장에서 경쟁력을 높여하고 있습니다. 특히, SK하이닉스는 세계 최초로 HBM3를 출시하여 엔비디아에 공급하면서 엔비디아의 시장경쟁력을 상승시키는 요인이 되기도 하였습니다. 또한, 슈퍼컴퓨터와 HPC(고성능 연산 컴퓨터)과 같은 업체들이 HBM을 주로 활용하고 있습니다. 세계 내로라하는 슈퍼컴퓨터들은 HBM을 사용합니다. 예를 들어, 미국의 엑사스케일 슈퍼컴퓨터 프로젝트에 HBM이 적용된 가속기 칩이 사용되고 있습니다. 이는 방대한 데이터를 빠르게 처리하기 위한 필수적인 선택입니다. 결국, 메모리 반도체 기업뿐만 아니라 슈퍼컴퓨터를 활용하는 시장에서도 HBM은 핵심 제품으로 자리 잡고 있으며, 앞으로도 그 수요는 매우 높게 증가할 것으로 예측합니다.
HBM은 AI 시대의 핵심 기술
HBM은 단순한 그래픽카드에서 성능 개선만을 위한 목적으로 활용되는 것이 아닙니다. 현재 가장 많은 가능성과 기대를 모으고 있는 AI 및 데이터 처리 시대의 필수 기술로 자리 잡아가고 있습니다. 전 세계를 아우르는 거대 글로벌 IT 기업들, 데이터센터 공급 업체들, 클라우드 컴퓨팅 서비스를 제공하는 기업들과, 반도체 제조업, 슈퍼컴퓨터 시장까지 이들이 필요로 하는 수요는 날이 갈수록 높아지고 많아질 것입니다. 특히, AI와 고성능 연산(HPC) 시장의 성장이 매우 빠를 것이라 예측하면서 이에 상응하는 HBM의 활용 영역은 더욱 넓어지고 높아질 것입니다. 지금 이 순간도 더욱 높은 기술력을 적용하기 위한 메모리 반도체 업체들 간의 기술 패권 전쟁이 보이지 않는 상황 속에서도 전개되고 있으며, 새롭게 변화해 가는 AI 반도체 시장의 혁신과 데이터 처리 속도를 한 단계 끌어올리는 중심에 HBM의 기술이 핵심 요소로 자리매김할 것입니다.