[딜사이트 김진욱 기자, 이승연 인턴기자] 엔비디아의 차세대 인공지능(AI) 플랫폼 ‘베라 루빈(Vera Rubin)’이 실제 고객 서비스에 투입되기 시작하면서 차세대 고대역폭메모리(HBM)인 HBM4 시장도 본격적인 성장 구간에 진입할 전망이다.

시스템 한 대에 20TB가 넘는 HBM4가 탑재되는 루빈의 출하가 내년부터 확대되면서 HBM4 수요도 빠르게 늘어날 것으로 예상된다.

◆ 코어위브서 초기 상용화…내년 출하 확대 전망

루빈은 제품 발표와 성능 검증 단계를 넘어 실제 AI 서비스에 활용되기 시작했다. AI 클라우드 업체 코어위브(CoreWeave)는 지난달 30일(현지시간) 루빈 NVL72를 일부 고객에게 제공하기 시작했다고 밝혔다. 코어위브가 데이터센터에 구축한 루빈 기반 컴퓨팅 자원을 고객사가 클라우드 방식으로 사용하는 구조다.

AI 코딩 에이전트 ‘데빈(Devin)’을 개발한 코그니션(Cognition)이 첫 고객으로 이름을 올렸다. 코그니션은 코어위브의 루빈 인프라에서 실제 서비스용 AI 작업을 수행하고 있다. 코어위브에 따르면 코그니션이 자체 수행한 SWE-2 모델의 추론 성능 평가에서 루빈 NVL72의 GPU당 전체 토큰 처리량은 GB200 NVL72 대비 최대 4.8배였다. 토큰은 AI가 문장을 처리하는 기본 단위다.

13일 박준영 한화투자증권 연구원이 발간한 ‘Rubin의 출하 확대, HBM4 성장의 시작’ 보고서에 따르면 루빈의 고객 인도는 올해 4분기 확대되고 내년 1분기부터 본격적인 대량출하 구간에 들어설 것으로 전망된다.

박 연구원은 과거 엔비디아 GPU의 세대교체에서도 초기 출하 이후 이듬해 공급이 본격적으로 늘어나는 흐름이 나타났다고 분석했다. 호퍼(Hopper)는 2022년 하반기 출하를 시작한 뒤 2023년 공급량이 빠르게 늘었다. 블랙웰(Blackwell)도 2024년 4분기 생산 출하를 시작한 뒤 2025년 상반기부터 랙 단위 시스템 공급이 본격화됐다.

루빈은 블랙웰 세대에서 쌓인 랙 시스템 제조 경험과 개선된 모듈형 설계를 활용할 수 있다는 점에서 생산 확대 속도가 과거보다 빨라질 가능성도 있다.

◆ 랙 하나에 HBM4 20.7TB…메모리 공급 확대 기대

루빈 출하 확대는 HBM4 시장에도 직접적인 영향을 미칠 전망이다. 엔비디아가 공개한 현재 사양에 따르면 루빈 NVL72는 루빈 GPU 72개와 베라 CPU 36개로 구성된다. 루빈 GPU 한 개에는 288GB의 HBM4가 탑재되며 메모리 대역폭은 최대 22TB/s다. 대역폭은 메모리가 1초에 전달할 수 있는 데이터의 양을 뜻한다. 시스템 전체의 HBM4 용량은 20.7TB에 달한다.

HBM4 공급은 최종 루빈 시스템 출하에 앞서 이뤄진다. HBM이 GPU 패키징과 시스템 조립에 앞서 공급되기 때문이다. 박 연구원은 내년 상반기 루빈 생산량이 증가하는 과정에서 HBM4 공급도 빠르게 확대될 것으로 봤다.

HBM 수요처도 엔비디아 GPU에서 다양한 AI 가속기로 넓어질 전망이다. 주요 클라우드 사업자들이 자체 AI 가속기 개발을 확대하면서 고대역폭·대용량 메모리를 요구하는 플랫폼이 늘어나고 있다. 박 연구원은 향후 HBM 수요가 엔비디아 제품뿐 아니라 다양한 AI 가속기 플랫폼으로 확대될 가능성이 높다고 분석했다.

이 같은 수요 확대는 삼성전자와 SK하이닉스 등 국내 메모리업계에도 긍정적으로 작용할 전망이다. 박 연구원은 내년 HBM4 출하 증가율이 초기 양산 단계였던 올해의 낮은 기저를 바탕으로 전체 HBM 시장 성장률을 상당 폭 웃돌 것으로 봤다. HBM4 출하 확대와 고부가 제품 비중 상승이 맞물리면서 국내 메모리 업체의 제품 구성 개선과 매출 성장에도 기여할 수 있다는 분석이다.