[딜사이트 김주연 기자] AI 반도체 시장에서 메모리 업체의 역할이 단순 공급자를 넘어 시스템 설계 파트너로 확대될 것이라는 전망이 나왔다. 생성형 AI가 학습 중심에서 추론 중심으로 확산되면서 그래픽처리장치(GPU)의 연산 성능뿐 아니라 데이터를 얼마나 빠르고 효율적으로 공급하느냐가 핵심 경쟁력으로 떠오르고 있기 때문이다.

이에 따라 고대역폭메모리(HBM)를 비롯한 차세대 메모리는 고객 맞춤형 로직 기능까지 결합한 형태로 진화할 가능성이 커지고 있다. 메모리 업체들이 향후 ‘메모리 파운드리’와 같은 역할을 해야 한다는 주장이다.

권석준 성균관대 교수는 9일 경기 고양시 킨텍스(KINTEX)에서 열린 ‘나노코리아 비즈포럼 2026’에서 ‘메모리 centric AI 반도체 시대의 의미, 그리고 앞으로의 도전 과제’를 주제로 이같이 말했다.

권 교수는 AI가 단순히 산업·기술 영역을 넘어 군사적 용도에서도 중요한 함의를 가지면서 글로벌 패권 경쟁의 핵심으로 부상하고 있다고 설명했다. 선진국 간 경쟁이 더 좋은 AI 모델을 확보하는 데서 그치지 않고, 이 모델을 구동할 수 있는 반도체를 누가 확보하느냐의 문제로 확대되고 있다는 설명이다.

권 교수는 “최근 AI 모델 경쟁은 벤치마크 성능 점수보다 속도전으로 치닫고 있다”며 “AI 모델의 성능을 이끌어낼 수 있는 반도체가 뒷받침되지 않으면 정부가 외치는 글로벌 3강이라는 목표도 지속가능하지 않다”고 말했다.

그러면서 AI 반도체 경쟁이 GPU 중심 구도에서 벗어나 용도별 맞춤형 칩으로 확산될 것이라고 봤다. 자율주행, 로봇, 제조 AI 등 현실 세계에서 작동하는 AI는 대형 모델을 학습시키는 데이터센터 환경과 요구 조건이 다르기 때문이다. 이에 따라 GPU뿐 아니라 산업별 특성에 맞춘 반도체의 중요성이 커질 것이라는 설명이다.

권 교수는 “자율주행 플랫폼 그 자체가 아니라 이에 적합하게 맞춤형으로 만들어진 AI 반도체가 중요하다”며 “흔히들 GPU만 생각하고 있지만, 특정 영역에서 필요한 칩들은 GPU 다음의 문제가 된다. ‘Beyond GPU’ 시대가 도래하고 있다는 의미”라고 말했다.

AI 반도체 공급망도 재편될 것으로 전망했다. 지금까지는 엔비디아 GPU를 중심으로 삼성전자, SK하이닉스, 엔비디아, TSMC 등 거대 반도체 제조사와 설계사, 파운드리, 소부장 업체들이 하나의 공급망을 이뤘다. 그러나 하이퍼스케일러들이 점차 엔비디아 GPU에 대한 의존도를 줄이고 맞춤형 반도체 비중을 높이면서 공급망 구조도 달라질 수 있다는 의견이다.

실제로 구글, 메타, 아마존 등은 내부 서비스와 추론, 일부 학습 워크로드에 엔비디아 의존도를 줄이고 자체 개발 칩을 활용하는 비중을 높이고 있다. 이에 따라 메모리 반도체도 각 업체의 맞춤형 AI 칩에 적합하도록 커스터마이즈돼야 한다는 압박이 높아질 것으로 보인다.

기존 메모리 사업은 삼성전자, SK하이닉스 등이 D램과 낸드플래시를 대량으로 양산하고 수율을 높이면 필요한 업체들이 이를 구매하는 방식에 가까웠다. 그러나 AI 반도체가 고객별·용도별 맞춤형 구조로 진화하면서 메모리에도 ‘수주’ 개념이 들어오고, 파운드리와 유사한 맞춤형 사업 방식이 적용되기 시작하고 있다는 설명이다.

이 같은 변화는 AI 연산 과정에서 메모리의 역할이 병목 구간으로 부상하고 있기 때문이다. GPU 등 연산칩의 성능이 높아져도 메모리에서 데이터를 제때 공급하지 못하면 전체 처리 속도는 떨어진다. 특히 초거대 AI 모델이 긴 문맥을 처리하고 대량의 토큰을 생성할수록 HBM과 베이스 다이, 인터페이스 등 연산칩과 메모리가 맞물리는 구간의 중요성이 커진다는 설명이다.

메모리 업체들도 단순히 D램과 낸드플래시를 대량으로 생산해 판매하는 방식에 머물러서는 안 된다고 강조했다. 고객사의 AI 칩 구조와 모델, 데이터 처리 방식에 맞춰 메모리도 함께 설계하는 방향으로 나아가야 한다는 제언이다. 메모리 업체가 고객 맞춤형 요구를 받아 메모리 구조와 로직 기능, 데이터 전처리 기능까지 통합해 공급하는 형태로 진화해야 한다는 의미다.

권 교수는 “메모리는 이제 메모리의 시대를 넘어 AI의 시대로 나아가고 있다”며 “메모리 파운드리처럼 맞춤형 칩, 특히 연산을 주도할 수 있는 칩을 설계하는 능력이 중요해지고 있다”고 말했다. 이어 “메모리를 지금처럼 많이 생산하는 것만이 중요한 게 아니라, 연산칩과 메모리 사이에서 발생하는 병목층의 기술적 난제를 어떻게 풀 것이냐가 중요하다”고 덧붙였다.