[딜사이트 변한석 기자] LG유플러스가 인공지능(AI) 코딩 작업에서 모델 운영 비용을 최대 90% 절감한 실증 성과를 확보했다. AI 모델의 크기를 줄이고 작업에 적합한 모델을 자동으로 선택하는 기술 등을 활용한 결과다. LG유플러스는 이를 토대로 내년부터 기업 고객의 AI 운영비를 낮추는 사업을 추진할 계획이다.

LG유플러스는 지난 12일 서울 서대문구 워크스페이스에서 'AI 토큰 최적화 기자 스터디'를 개최하고 AI 서비스 운영 비용을 절감하기 위한 기술 개발 현황과 사업 방향을 공개했다.

토큰은 AI가 질문을 이해하고 답변을 생성할 때 처리하는 기본 단위다. AI가 스스로 여러 작업을 수행하는 에이전틱 AI가 확산되면서 토큰 소비량도 늘고 있다. LG유플러스는 개별 토큰의 가격보다 고객이 AI를 활용해 하나의 업무를 완료하는 데 들어가는 전체 비용을 줄이는 데 집중하고 있다.

LG유플러스는 2027년부터 협력사와의 제휴 및 자체 구축 방식으로 토큰 관련 사업을 추진할 계획이다. 기업 고객이 AI를 도입하고 운영하는 데 필요한 총소유비용(TCO)을 낮추는 것이 목표다. AI 통화 에이전트 '익시오'와 AI 컨택센터(AICC), 사내 AI 전환(AX) 과정에서 축적한 운영 경험을 사업화에 활용할 계획이다. 카카오와 협력하는 '모두의 AI'에서는 AI 모델 서빙 영역을 담당한다.

LG유플러스는 내부 실증에서 일부 코딩 작업의 AI 모델 운영 비용을 기존 대비 약 90% 절감하는 효과를 확인했다. 질문의 난이도에 따라 적합한 AI 모델을 선택하는 '모델 라우팅' 기술을 적용한 테스트에서는 일반 질문의 토큰 사용량을 25% 이상, 코딩 에이전트는 30% 이상 줄였다.

모델 경량화와 추론 기술에서도 성과를 확보했다. 기존 2.4~3GB 수준의 온디바이스 AI 모델을 약 800MB로 줄였으며, 소형 모델이 생성한 답변을 대형 모델이 검증하는 기술로 토큰 생성 속도를 2배 이상 높였다. GPU 연산 최적화 연구에서는 동일한 GPU로 처리할 수 있는 토큰량을 최대 4배 확대했다.

LG유플러스는 엔비디아와 AMD의 GPU, 퓨리오사AI의 신경망처리장치(NPU)를 활용한 최적화 연구도 진행하고 있다. 관련 연구 성과는 '뉴립스(NeurIPS) 2026'의 온디바이스 인텔리전스 워크숍에 논문 2편이 채택되며 인정받았다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "최적화는 기술 하나로 해결되지 않고 다양한 목표에 맞춰 여러 장비와 기술을 조합해야 한다"며 "단순한 토큰 단가가 싼 게 아니라 어떤 업무를 할 때 전체 단가가 제일 쌀 수 있도록 하는 것을 목표"고 말했다.