반도체도 ‘맞춤형’ 시대… ‘커스텀 HBM’이 온다
‘인공지능(AI)’ 산업 구조가 변화하면서 ‘커스텀(Custom) HBM’이 주목받고 있다. 이에 따라 삼성전자와 SK하이닉스는 커스텀 HBM 시장을 두고 다시 한 번 경쟁을 펼칠 전망이다./ 생성형 AI로 제작한 이미지시사위크=박설민 기자 지난해 글로벌 반도체 업계를 흔든 삼성전자와 SK하이닉스의 ‘고대역폭메모리(HBM)’ 혈투는 SK하이닉스의 승리였다. 29일 SK하이닉스의 실적 발표에 따르면 지난해 영업이익은 47조2,063억원으로 사상 처음으로 삼성전자를 앞질렀다. 삼성전자의 반도체사업부(DS)와만 비교하면 그 차이는 더욱 벌어진다.
늘 반도체 분야 ‘최강자’였던 삼성전자 입장에선 자존심이 상할 일이다. 이에 따라 역전을 위한 전열을 재정비에 나섰다. 올해 HBM시장에서 주도권을 확보, 메모리 반도체 분야 1위 재탈환에 나선다는 계획이다. 특히 ‘커스텀(Custom) HBM’은 SK하이닉스와의 AI칩 시장 진검승부의 분기점이 될 전망이다.
◇ 내 AI에 딱 맞는 ‘맞춤형 옷’
최근 HBM시장에서 커스텀 HBM이 주목받는 것은 ‘인공지능(AI)’ 산업 구조 변화 때문이다. 불과 몇 년 전만 해도 AI산업 ‘초거대 AI’ 중심의 고성능 모델 개발이 트렌드였다. 즉, ‘오픈AI’의 ‘GPT’와 같은 거대언어모델들은 ‘얼마나 크고 빠른가’가 중요했다. 때문에 최대한 고성능을 이끌어 낼 수 있는 범용 ‘그래픽처리장치(GPU)’ 자원을 다수 투입해야 했다.
하지만 현재 AI는 ‘큰 모델’에서 최소한의 자원을 투입, 가장 높은 효율을 낼 수 있는 AI가 주목받기 시작했다. 막대한 전력 소모 때문에다. 기존 범용 GPU자원을 쏟아붓는 방식은 대규모 AI데이터센터 환경에서 전력소모량과 냉각장치 등 자원소모가 매우 컸다. 이에 각 기업과 연구기관은 자신들의 AI모델에 최적화된 ‘맞춤형 반도체’ 자원을 이용, 투자 부담을 낮추는 방향으로 선회한 것이다.
현재 AI는 ‘큰 모델’에서 최소한의 자원을 투입, 가장 높은 효율을 낼 수 있는 AI가 주목받기 시작했다. 이에 따라 각 기업과 연구기관은 자신들의 AI모델에 최적화된 ‘맞춤형 반도체’ 확보에 나서고 있다./ 생성형 AI로 제작한 이미지
실제로 글로벌시장조사업체 ‘트렌드포스(Trendforce)’는 올해 AI반도체 산업에서 클라우드 서비스 업체(CSP)가 자체 설계하는 ‘주문형반도체(ASIC)’ 시장은 44.6% 성장할 것으로 예상했다. AI반도체 시장을 좌우하던 GPU의 시장 성장률 16.1%를 크게 상회하는 수치다. 따라서 ASIC에 필요한 맞춤형 커스텀 HBM의 수요 증가는 당연한 흐름이 될 것으로 보인다.
특히 ‘텐서처리장치(TPU)’이 주목받으며 커스텀 HBM의 중요성은 더욱 커졌다. TPU는 지난 2016년 구글이 처음 공개한 AI반도체다. 강력한 연산 능력 덕분에 최근 GPU의 대항마로 주목받고 있다. 지난해 12월 구글이 공개한 7세대 TPU ‘아이언우드’로 학습한 ‘제미나이3 딥싱크’는 GPT-5.1보다 ‘인류 최후의 시험(Humanity's Last Exam, HLE)’에서 우수한 성적을 거뒀다. HLE는 I지능수준을 평가하기 위한 대표 시험이다.
이때 TPU는 각 코어가 맡은 역할이 고정돼 있다. 때문에 메모리 반도체는 각자의 역할에 맞춰 데이터를 공급한다. 미리 정해진 순서에 따라 데이터를 가공·공급할지 정하는 역할은 HBM이 맡는다. 때문에 AI마다 연산 방식과 데이터 흐름이 달라진 현재, HBM 역시 범용 제품보단 맞춤형 제품이 중요해진 것이다.
독립리서치그룹 ‘그로쓰리서치’도 지난해 12월 발표한 보고서를 통해 “글로벌 AI 인프라는 범용 GPU 중심 구조에서 벗어나 각 기업이 자체 개발한 ASIC와 이를 최적화하는 커스텀 HBM 구조로 빠르게 이동하고 있다”며 “추론 수요의 폭발로 전력·비용효 율이 핵심경쟁력으로 떠오르면서 표준형 HBM은 ASIC별로 다른 데이터경로·대역폭·채널구조를 충분히 맞추지 못해 시스템병목을 유발하고 있다”고 분석했다.
이어 “메모리의 베이스 다이 단계에서 신호·전력·채널을 다시 설계하는 커스텀 HBM이 필수 사양으로 부상했다”며 “이는 메모리 산업을 ‘규격 제품 중심’에서 ‘설계 기반 고부가가치 솔루션’중심으로 재편시키는 구조적 전환이 이뤄짐을 의미한다”고 전했다.
삼성전자의 커스텀 HBM 개발 핵심 전략은 ‘턴키(Turn-Key) 솔루션’이다. 이는 메모리 반도체 사업부와 파운드리, 첨단패키징 팀을 통합, 각 부서의 장점을 합한 솔루션이다. SK하이닉스의 커스텀 HBM 대응 전략은 ‘원팀(One team) 동맹’이다. 전체적인 AI반도체 설계는 고객사인 ‘엔비디아’가, 여기에 맞춘 커스텀 HBM은 SK하이닉스, 로직과 패키징은 TSMC가 맡는 삼각편대 방식이다./ 뉴시스
◇ 삼성과 SK, 서로 다른 전략으로 커스텀 HBM 준비
커스텀 HBM이 메모리 반도체 시장의 새로운 축으로 자리 잡으면서 삼성전자와 SK하이닉스도 전략 구상에 속도를 내고 있다. 특히 삼성전자는 최신 HBM4 모델 생산과 함께 HBM시장에서 SK하이닉스 역전의 발판을 커스텀 HBM으로 삼겠다는 의지를 내비치고 있다.
29일 삼성전자는 실적 발표 컨퍼런스콜에서 김재준 삼성전자 메모리 사업부 부사장은 “AI를 중심으로 빠르게 증가하는 메모리 반도체 수요에 맞춰 올해 제품 경쟁력을 확보, AI시대를 선도하겠다”고 말했다. 이어 D램 사업 부문에서 AI시장 내 신규 GPU와 ASIC를 겨냥해 성능 경쟁력을 갖춘 HMB4를 적기에 공급 확대하겠다는 목표를 밝혔다.
그러면서 삼성전자는 HMB의 7세대 제품인 ‘HBM4E’의 샘플도 올해 중반 제공한다는 계획이다. 이 HBM4E 기술을 기반으로 커스텀 HBM제품도 하반기부터 고객 일정에 맞춰 생산에 들어간다. 컨퍼런스콜에서 발표된 내용에 따르면 삼성전자는 이미 HBM4E와 커스텀 HBM에 이미 확보된 ‘10nm급 6세대 1c 공정’을 적용한다.
종합적으로 봤을 때 삼성전자는 HBM4모델 까지는 ‘범용 HBM’에 가까운 제품을 생산할 예정이다. 하지만 HBM4E 이후부터는 커스텀 HBM의 비중을 높일 것으로 분석된다. 실제로 업계 관계자들에 따르면 삼성전자는 차세대 커스텀 HMB의 ‘로직 다이(Logic Die)’에 2나노 공정을 적용할 계획인 것으로 알려졌다. 여기서 로직 다이는 커스텀 HBM의 두뇌 역할을 하는 컨트롤러다.
삼성전자의 역량을 보면 충분히 커스텀 HBM시장에서 주도권을 되찾아올 가능성이 높다는 것이 전문가들의 예측이다. 사진은 지난해 22일 서울 강남구 코엑스에서 개막한 제27회 반도체대전을 찾은 관람객이 삼성전자의 HBM4를 둘러보는 모습./ 뉴시스
이때 삼성전자의 커스텀 HBM 개발 핵심 전략은 ‘턴키(Turn-Key) 솔루션’이다. 이는 메모리 반도체 사업부와 파운드리, 첨단패키징 팀을 통합, 각 부서의 장점을 합한 솔루션이다. 쉽게 말해 설계부터 첨단공정, 패키징에 이르기까지 전 과정을 한번에 진행하는 방식이다. 그동안 반도체 산업계에서 수많은 원천기술을 보유한 삼성전자이기에 가능한 전략으로 분석된다.
반도체 업계 전문가는 ‘시사위크’와의 통화에서 “현재 HBM시장에서 SK하이닉스가 우위를 점하고 있는 것은 사실이지만 지금까지 확보한 삼성전자의 원천기술들은 결코 무시할 수 없다”며 “삼성전자의 역량을 보면 충분히 커스텀 HBM시장에서 주도권을 되찾아올 가능성이 높다”고 말했다.
물론 SK하이닉스도 현재의 HBM 왕좌를 지키기 위해 커스텀 HBM 경쟁에 대비 중이다. 30일 컨퍼런스콜에서 SK하이닉스는 HBM4 역시 같은 과정을 거치며 고객과 협의한 일정에 따라 예정대로 진행 중이라고 밝혔다. 그러면서 HBM4는 지난해 9월 양산 체제 구축, 고객이 요청한 물량을 현재 양산 중이라고 설명했다.
전 과정을 독자진행하는 삼성전자와 달리 SK하이닉스의 커스텀 HBM 대응 전략은 ‘원팀(One team) 동맹’이다. 전체적인 AI반도체 설계는 고객사인 ‘엔비디아’가, 여기에 맞춘 커스텀 HBM은 SK하이닉스, 로직과 패키징은 TSMC가 맡는 삼각편대 방식이다. 쉽게 말해 GPU를 제작하는 엔비디아가 필요한 HBM을 주문하면 SK하이닉스가 적층(메모리 반도체를 층층이 쌓는 것)을, TSMC가 로직다이 제작을 맡는 것이다.
송현종 SK하이닉스 Corporate Center 사장은 “HBM4 이후 시장은 단순한 적층 경쟁을 넘어 베이스 다이 미세 공정과 시스템 최적화를 결합한 커스텀 HBM이 핵심 경쟁 요소로 부상할 것으로 예상한다”며 “주요 고객사들과 커스텀 HBM 기술 논의를 활발히 진행 중이고 파트너사와 ‘원팀’ 협력을 통해 최적의 제품 공급을 차질 없이 이어가고 있다”고 설명했다.
