[딜사이트 변한석 기자] LG유플러스가 LG AI연구원의 엑사원(EXAONE)을 스마트폰에서 구동할 수 있도록 경량화해 인공지능(AI) 통화 서비스 ‘익시오(ixi-O)’에 적용하고 있다. 단순히 모델 크기를 줄이는 데 그치지 않고 실제 통화 환경과 서비스 목적에 맞는 온디바이스 AI를 설계한다는 전략이다. 업계에서는 LG유플러스가 모델 크기 경쟁보다 경량모델을 실제 통신 서비스에 적용하는 게 특징이라고 분석한다.

정보통신기술(ICT) 업계에 따르면 LG유플러스와 LG AI연구원은 12억개 매개변수 규모인 ‘엑사원 4.0 1.2B’를 기반으로 익시오의 온디바이스 AI를 고도화했다. 엑사원 4.0 1.2B는 스마트폰 등 온디바이스 활용을 고려해 설계된 경량모델이다. LG AI연구원이 모델링과 데이터 엔지니어링을 맡고 LG유플러스가 스마트폰 단말 최적화와 서비스 적용을 담당했다.

온디바이스 AI는 외부 클라우드 서버로 요청을 보내지 않고 스마트폰 등 기기 내부에서 AI를 구동하는 기술이다. 스마트폰은 메모리와 연산 능력이 제한돼 있어 모델 크기를 줄이면서도 필요한 성능을 유지하는 것이 중요하다.

LG유플러스의 경량화 전략도 소형모델 종류를 늘리는 것보다 엑사원 계열 모델을 자사 통신 서비스에 맞게 특화한다는 방식이다. LG AI연구원 관계자는 경량모델 경쟁력에 대해 “첫 번째는 모델의 성능 손실을 최소화하면서 크기를 최대한 줄이는 것”이라며 “두 번째는 목적별 파인 튜닝을 얼마나 잘하느냐”라고 했다.

이어 “모델은 개발 자체에서 끝나는 것이 아니라 사용처에 맞는 데이터를 이용해 특화하는 작업이 필요하다”며 “LG유플러스도 경량모델을 그대로 쓰는 것이 아니라 통신에 특화된 데이터 등을 활용해 목적에 맞게 튜닝하고 있다”고 덧붙였다.

익시오에 온디바이스 경량화를 적용하는 이유는 보안과 응답 속도를 높이기 위해서다. 기존 클라우드 방식은 통화 내용을 서버로 보내 AI가 분석한 뒤 다시 결과를 받아야 한다. 하지만 온디바이스 방식은 기기 내부에서 처리할 수 있다. 따라서 민감한 통화 데이터의 외부 전송을 줄일 수 있고 서버를 오가는 과정에서 생기는 지연도 줄어든다. LG유플러스 관계자는 “고도화 과정에서 클라우드 의존도와 인프라 비용을 동시에 낮춘다”며 “개인정보 보호와 응답 지연 최소화도 주요 목표”라고 했다.

LG유플러스는 지난해 엑사원 경량모델을 익시오에 적용하는 작업을 시작했다. 지난해 9월 LG AI연구원, 옵트에이아이(OptAI)와 ‘엑사원 3.5 2.4B’를 기반으로 신경망처리장치(NPU)에서 구동되는 온디바이스 소형언어모델(sLM)을 개발했다. 기존 중앙처리장치(CPU) 기반 익시오 AI와 비교했을 때 성능은 유지하면서 전력 소모량을 78%, 모델 크기를 82% 줄였다.

이후 회사는 모델을 스마트폰에 삽입하는 단계를 넘어 익시오 업무에 맞춰 성능을 올리는 데 초점을 맞췄다. LG유플러스는 익시오의 ‘AI 통화 분석’과 ‘AI 전화 대신 받기’에 엑사원 4.0 1.2B를 적용했다. 통화 분석에서 통화 내용을 요약하고 주요 키워드와 정보를 추출한 뒤 일정 등록이나 연락 등 필요한 후속 행동까지 제안하도록 했다. ‘AI 전화 대신 받기’ 기능은 정해진 문구를 반복하는 기존 방식에서 AI가 발신자의 의도를 파악하고 대화를 이어가는 방식으로 고도화했다.

특히 여러 기능을 각각 다른 모델에 맡기지 않고 하나의 모델에서 처리하는 멀티태스크 방식 적용이 특징이다. 하나의 경량모델에 여러 업무를 학습시켜 스마트폰의 메모리 점유율을 줄이고 향후 모델 배포와 유지·관리 효율도 높이는 방식이다. 제한된 스마트폰 자원 안에서 AI가 처리할 수 있는 업무를 늘리기 위한 전략이다.

통화 서비스에 맞춘 특화 학습은 작은 모델의 성능을 보완하는 역할도 했다. LG AI연구원이 지난 7월 공개한 익시오의 통화 분석 업무 자체 평가에서 실제 통화 흐름과 음성을 문자로 변환하는 과정에서 발생하는 오류 등을 반영한 합성 데이터를 학습한 엑사원 4.0은 통화 요약·키워드 추출·후속 업무 추천에서 평균 80.0점을 기록했다. 같은 평가에서 클라우드 기반 ‘제미나이(Gemini) 2.0 Flash’는 57.4점을 기록했다.

업계에서는 모델의 매개변수 숫자 자체보다 실제 서비스에서 얼마나 많은 업무를 안정적으로 처리할 수 있는지가 중요하다고 분석한다. LG유플러스는 엑사원의 크기를 줄이는 데 그치지 않고 통신 데이터와 서비스 노하우를 활용해 익시오에 특화한 AI를 만드는 데 차별점을 두고 있다. 온디바이스에서 처리할 수 있는 기능을 얼마나 넓히고 이를 익시오의 서비스 경쟁력으로 연결하느냐가 관건이 될 전망이다.

한 업계 관계자는 “경량화의 목적은 단순히 비용을 줄이는 것보다 제한된 GPU 환경에서 필요한 업무를 처리할 수 있는 적정한 모델 크기를 찾는 것”이라며 “온디바이스 모델은 사람이 휴대하는 기기에 탑재할 수 있어야 해서 모델 크기를 줄이면서도 성능 손실을 최대한 줄이는 것이 핵심”이라고 설명했다.