[딜사이트 최령 기자] 업스테이지와 AXZ, 퓨리오사AI가 손잡고 국내 첫 '풀스택 소버린 AI' 상용화에 나선다. 국산 인공지능(AI) 반도체와 거대언어모델(LLM), 실제 서비스까지 AI 전 영역을 국내 기술로 연결한 첫 사례라는 점에서 의미가 있다는 평가다.

김성훈 업스테이지 대표와 백준호 퓨리오사AI 대표, 이건수 AXZ 대표는 15일 경기 성남시 판교 AXZ 사옥에서 만나 소버린 AI 확산 방안과 향후 협력 방향을 논의했다.

이 자리에서 업스테이지는 포털 다음 운영사 AXZ, AI 반도체 기업 퓨리오사AI와 협력해 퓨리오사AI의 신경망처리장치(NPU) '레니게이드(RNGD)' 기반 인프라에서 자사의 거대언어모델(LLM) '솔라(SOLAR)'를 구동하고 이를 다음의 'AI 요약' 서비스에 적용한다고 발표했다.

구체적으로는 퓨리오사AI의 레니게이드 NPU를 기반으로 업스테이지의 솔라 모델을 구동하고 이를 다음 AI 요약 서비스의 추론 인프라로 활용하는 방식이다. 이번 협력은 AI 인프라부터 모델, 사용자가 실제 체감하는 서비스까지 모두 국산 기술로 연결했다는 점에서 주목받고 있다.

그동안 국내 AI 업계에서는 국산 LLM 개발이나 국산 AI 반도체 상용화 시도가 이어졌지만 실제 서비스 단계까지 국내 기술만으로 구현한 사례는 많지 않았다. 업스테이지와 AXZ, 퓨리오사AI는 이번 협력을 계기로 소버린 AI 생태계 구축 가능성을 검증하겠다는 계획이다.

이건수 대표는 다음 AI 요약 서비스를 "LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 제공하는 서비스"라고 소개했다. 이용자가 다음 검색창에 키워드를 입력하면 AI가 핵심 내용을 요약하고 근거 정보까지 함께 제시하며 정보가 변경될 경우 이를 자동으로 반영해 최신 정보를 제공한다는 설명이다.

특히 AXZ는 생성형 AI의 대표적인 문제로 꼽히는 환각(할루시네이션)을 줄이기 위해 검색 기술 고도화에 집중했다고 설명했다. 이 대표는 "정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다"며 "키워드 검색과 벡터 기반 검색을 결합한 하이브리드 서치를 통해 솔라 LLM에 가장 관련성이 높은 최신 정보를 전달하고 있다"고 말했다.

AI 요약 서비스의 추론 인프라는 퓨리오사AI의 레니게이드가 담당한다. 백준호 대표는 "현재 AI 요약 서비스를 위해 3개 노드로 하루 5억개의 토큰을 처리하고 있다"고 설명했다.

퓨리오사AI는 모델을 가속기에 효율적으로 매핑하기 위한 컴파일러와 최적의 서빙을 위한 엔진 등을 자체 개발해 하드웨어와 소프트웨어를 함께 최적화했다고 밝혔다. 이를 통해 엔비디아 H200 GPU와 대등한 수준의 성능을 구현했으며 추론 비용은 50% 이상 절감할 수 있다고 회사 측은 설명했다.

백 대표는 "국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고 GPU 대비 전성비와 가성비 측면에서도 강점이 있다"며 "국제 정세를 고려했을 때 전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다"고 말했다.

3사는 이번 협력을 계기로 AI 서비스 고도화에도 속도를 낼 계획이다. AXZ는 현재 베타 서비스 중인 AI 요약이 전체 질의의 약 20%를 처리하고 있으며 향후 적용 범위를 점진적으로 확대할 예정이다. 단순 요약 기능을 넘어 쇼핑과 맛집 검색 등 버티컬 서비스로 확장하고 장기적으로는 다음 플랫폼을 기반으로 개인 맞춤형 '1인 1에이전트' 서비스까지 제공한다는 구상이다.

퓨리오사AI 역시 에이전틱 AI 서비스 확산에 대응해 차세대 AI 반도체 개발을 이어갈 계획이다. 백 대표는 "고도화된 에이전틱 AI 서비스를 경쟁력 있는 토큰 가격으로 지원할 수 있도록 제품군을 확대하고 있다"며 "칩도 세대를 거듭할수록 성능과 가성비를 높여 글로벌 반도체 기업과 경쟁할 수 있는 수준까지 끌어올리겠다"고 말했다.

업스테이지는 한국어 특화 역량과 소형 모델 설계 기술을 바탕으로 국산 LLM 경쟁력을 강화하겠다는 계획이다. 김성훈 대표는 "해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화해 나가겠다"고 말했다.

대담 과정에서는 AI 생태계 확대를 위한 인프라 확보 필요성도 언급됐다. 김 대표가 "임베딩 모델도 고도화하고 싶지만 AI 칩 확보가 쉽지 않다"고 언급하자 백 대표는 "이미 양산에 성공적으로 돌입한 레니게이드는 연내 1만장까지 충분히 공급 가능하다"고 답했다.