목 차
최근 발표
고대역폭 메모리(HBM(High Bandwidth Memory) 란?
업체와 분야별 수요
AI 시대의 핵심 기술
최근 발표
2025년 3월 4일 자 신문에 게재된 내용을 보면 SK하이닉스는 이미 올해의 HBM 물량을 '완판'한 상태라고 보도하였습니다. 상반기에는 'HBM3 E 16단'을, 하반기에는 커스텀(맞춤형) 제품인 '6세대 HBM4' 공급을 본격화한다는 목표입니다. 주력 제품은 5세대 HBM인 'HBM3 E 12단' 제품이라고 발표하였습니다. 한 기업의 제품이 한 해 동안 판매해야 할 목표를 이미 달성하였다는 사실은 매우 이례적인 일입니다. 그럼에도 불구하고 SK하이닉스의 이와 같은 소식은 HBM(고대역폭 메모리)의 수요가 타 회사의 제품보다 앞선 기술력을 보여주고 있다는 사실과 이를 활용하는 기업들의 요구 사항들에 최적화되어 있다는 것을 보여 주는 것입니다. 이처럼 메모리 반도체 시장에서 가장 핫하여 이슈 몰이를 하고 있는 HBM이란 무엇인지 자세히 살펴보겠습니다.
고대역폭 메모리(HBM(High Bandwidth Memory) 란?
HBM(High Bandwidth Memory)은 기존의 GDDR(GDDR은 주로 그래픽 카드에서 사용하는 고속 메모리 유형을 말하는데, 컴퓨터 그래픽 처리와 데이터를 빠르게 읽고 쓸 수 있도록 설계되어 고화질 영상, 게임, 3D 랜더링 등 그래픽 작업에서 중요한 역할을 함.) 메모리보다 훨씬 높은 대역폭을 제공하며, 속도와 에너지 효율성 측면에서 큰 장점을 가지고 있는 차세대 메모리입니다. 그 가운데 3D 적층 구조를 이용해 데이터 전송 속도를 높이고, 전력 효율성을 극대화하면서도 차지하는 공간을 줄이는 것이 주요 특징입니다. 반면, 생산 공정이 복잡하고, 비용이 높아 GDDR보가 비쌉니다. 그래서 주로 고성능 그래픽 카드, 인공지능(AI) 연산, 데이터센터, 고성능 컴퓨팅(HPC) 등에서 각광받고 있습니다. 특히, 엔비디아(NVIDIA)와 AMD 같은 GPU 제조업체뿐만 아니라, 클라우드 컴퓨팅 서비스 제공업체와 반도체 기업들 또한 기술 발전에 집중하고 있습니다.
업체와 분야별 수요
- [엔비디아(NVIDIA)]
엔비디아(NVIDIA)는 AI 및 데이터센터 시장에서 강력한 입지를 다지고 있으며, 최신 GPU에 HBM 기술을 도입해 연산 성능을 극대화하고 있습니다. 예를 들어, A100 및 H100 GPU는 HBM2 e 및 HBM3 메모리를 사용하면서 데이터 처리 속도를 기존대비 크게 향상했습니다. 특히, 딥러닝 모델 훈련과 추론 작업에서 HBM은 필수적인 역할을 하였고, 이로 인한 AI 기반 기업들이 이 업체의 GPU 제품을 선택하고 있는 중요한 이유입니다. 이러한 기술 우위를 실현하기 위해서는 높은 대역폭을 요구하는 고급 컴퓨팅 작업에 최적화된 메모리를 필요로 하고, 전력 효율성과 발열 관리 측면에서 뛰어난 성능을 보여주는 메모리가 필요하게 된 것입니다.
- [AMD]
AMD는 라데온(Radeon) 시리즈 그래픽 카드뿐만 아니라, 서버 및 AI 연산용 GPU에서도 HBM을 적극 채택하고 있습니다. 세계 최초로 HBM을 적용한 GPU(라데온 R9 퓨리 X)를 출시한 기업이기도 합니다. 이후 인공 지능 및 고성능 연산 컴퓨팅(HPC) 시장을 겨냥한 MI200 시리즈 GPU에서도 HBM을 적용하여 높은 대역폭과 빠른 데이터 처리 속도를 제공하고 있습니다. 이처럼, HBM을 활용하여 그래픽 카드와 AI, 데이터센터 시장에서 HBM의 성능을 통해 지배력을 높여가고 있음을 입증하였고, 앞으로도 고성능 GPU에서 HBM 채택이 늘어날 것으로 예측하고 있습니다.
- [데이터센터와 클라우드 컴퓨팅 기업]
데이터센터와 클라우드 컴퓨팅 기업들의 초고속 연산을 위한 필수 제품입니다. 이 분야에서 매우 중요한 역할을 합니다. 특히, 구글, 아마존, 마이크로소프트 같은 글로벌 IT 기업들이 HBM을 기반으로 한 하드웨어를 구축하기 위해 도입을 하고 있습니다. HBM이 주로 사용되는 이유는 AI 및 머신러닝 연산을 위해 사용하기 때문입니다. 구글의 TPU, 엔비디아의 DGX 시스템, 그리고 AWS의 AI 가속기들은 대부분 HBM을 사용하고 있습니다. 머신러닝과 딥러닝 연산은 방대한 양의 데이터를 빠르게 처리해야 하므로, 높은 대역폭을 제공하는 데 필수적입니다. 또한, 데이터를 활용하여 고객들에게 고성능 가상 머신(VM)을 제공하기 위해 이를 기반으로 한 GPU를 주로 사용합니다. 예를 들어, AWS의 EC2 인스턴스 중 AI 연산을 지원하는 제품들은 대부분 HBM 기반 GPU를 탑재하고 있습니다. HBM을 사용하는 이유는 데이터 처리 속도를 높일 수 있고, AI 모델 훈련을 더욱 효율적으로 만들기 위해서입니다. 결국 AI 및 머신러닝 서비스를 제공하는 업체들에게 있어서는 HBM의 도입은 필수적인 것입니다. 따라서 앞으로도 서버 및 가속기 칩에서 HBM의 활용과 역할은 매우 중요할 것으로 예상합니다.
- [반도체 및 슈퍼컴퓨터 시장]
HBM은 단순히 GPU에만 사용되는 것이 아니라 반도체 및 슈퍼컴퓨터 시장에서도 매우 중요하고 핵심적인 역할을 할 것으로 예상합니다. 특히, 메모리 반도체를 생산함에 있어 급증하는 수요를 따라가기 위한 생산시설 및 기술력이 중요합니다. HBM을 생산하는 메모리 반도체 기업으로는 삼성전자, SK하이닉스, 마이크론이 있습니다. 이들은 지속적으로 새로운 기술을 선보이며 HBM을 통한 메모리 반도체 시장에서 경쟁력을 높여하고 있습니다. 특히, SK하이닉스는 세계 최초로 HBM3를 출시하여 엔비디아에 공급하면서 엔비디아의 시장경쟁력을 상승시키는 요인이 되기도 하였습니다. 또한, 슈퍼컴퓨터와 HPC(고성능 연산 컴퓨터)과 같은 업체들이 HBM을 주로 활용하고 있습니다. 예를 들어, 미국의 엑사스케일 슈퍼컴퓨터 프로젝트에 HBM이 적용된 가속기 칩이 사용되고 있습니다. 이는 방대한 데이터를 빠르게 처리하기 위한 필수적인 선택입니다. 결국, 메모리를 생산하는 제조 기업뿐만 아니라 슈퍼컴퓨터를 활용하는 시장에서도 HBM은 핵심 제품으로 자리 잡고 있으며, 앞으로도 그 수요는 매우 높게 증가할 것으로 예측하고 있습니다.
AI 시대의 핵심 기술
HBM은 단순한 그래픽카드에서 성능 개선만을 위한 목적으로 활용되는 것이 아닙니다. 현재 가장 많은 가능성과 기대를 모으고 있는 AI 및 데이터 처리 시대의 핵심 기술로 자리 잡아가고 있습니다. 전 세계를 아우르는 거대 글로벌 IT 기업들, 데이터센터 공급 업체들, 클라우드 컴퓨팅 서비스를 제공하는 기업들과, 반도체 제조업, 슈퍼컴퓨터 시장까지 이들이 필요로 하는 수요는 날이 갈수록 높아지고 많아질 것입니다. 특히, 인공지능과 고성능 연산(HPC) 시장의 성장이 매우 빠를 것이라 예측되면서, 이에 상응하는 HBM의 활용 영역은 더욱 넓어지고 높아질 것입니다. 인공지능 분야에서 활용이 중요한 이유는 주요 작업인 데이터 학습, 추론, 대규모 모델 훈련 등에서 매우 빠르고 효율적인 메모리 전송 능력이 필수적이기 때문입니다. 딥러닝을 통한 대규모 데이터 처리는 극대화된 전송 속도와 대용량의 데이터 처리 시에 복잡한 과정과 매우 큰 이미지나 비디오 데이터를 처리해야 하므로 한 번에 많은 양을 해결할 수 있는 능력을 필요로 합니다. 사람의 뇌를 모티브로 개발되어 병렬 연산을 위한 데이터 전송에서도 HBM의 역할은 필수적입니다. 지금 이 순간도 더욱 높은 기술력을 적용하기 위한 메모리 반도체 업체들 간의 기술 패권 전쟁이 보이지 않는 상황 속에서도 전개되고 있으며, 새롭게 변화해 가는 시장의 요구와 데이터 처리 속도를 한 단계 끌어올리는 중심에 HBM의 기술이 핵심 요소로 자리매김할 것입니다.