[딜사이트 전한울 기자] "통신사향 거대언어모델(텔코LLM)을 통해 통신사 고객센터, 인프라는 물론 마케팅 등 고객 접점이나 법무, 인사와 같은 사내 업무까지 다양한 영역에서 업무 효율성을 높여 나가겠다."
정민영 SK텔레콤 AI플랫폼 담당은 30일 서울 중구 을지로에 위치한 SKT타워에서 열린 텔코LLM 설명회에서 사업 확장성을 강조하며 이같이 말했다.
SK텔레콤은 이날 행사를 통해 '텔코LLM'을 이르면 오는 6월 공개한다고 밝히고 다양한 사업전략을 공유했다. 텔코LLM은 GPT와 같은 범용 LLM이 아닌 통신업에 특화된 LLM을 의미한다.
이 회사는 현재 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문용어와 AI 윤리가치 등 통신사 내부 지침을 학습한 모델을 개발 중이다. 특히 멀티 LLM 전략의 일환으로 자체 LLM '에이닷엑스(A.X')와 오픈AI의 'GPT' 등 다양한 범용모델을 기반으로 튜닝했다.
에릭 데이비스 SK텔레콤 AI테크 콜라보레이션 담당은 "하나의 범용 LLM으로 통신사들의 다양한 서비스와 문제를 해결하는 것은 쉽지 않다"고 말했다. 이어 "통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만드는 게 우선"이라며 "추후 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 멀티LLM 전략의 핵심"이라고 설명했다.
특히 텔코LLM은 범용LLM 보다 통신 영역에서 높은 수준의 생성형 AI작업을 수행할 수 있다. 범용LLM에게 부족한 통신 관련 데이터를 추가로 학습하는 파인튜닝을 통해 다양한 문제를 수월하게 해결한다.
이러한 파인튜닝 기반 답변은 상담사들의 피드백을 통한 강화학습으로 고도화 과정을 거친다. 회사 측은 텔코 LLM이 고객 상담 등에 소요되는 시간을 크게 단축시켜 줄 것으로 기대하고 있다. 정 담당은 "앞으로 텔코LLM 활용 사례를 지속적으로 늘려갈 계획"이라고 말했다.
한편 이날 SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 보다 효율적으로 구축·개발할 수 있는 '인텔리전스 플랫폼'도 공개했다. 이는 멀티LLM에 기반한 '기업용 AI 개발·운용 패키지'다. 이 회사는 현재 이 플랫폼을 에이닷 등의 서비스 등에 적용 중이며, 적용 사례를 지속 확대할 예정이다.
SK텔레콤 관계자는 "국내외 통신사들을 비롯해 상담업무 등 유사한 업무를 진행하는 다양한 기업들이 인텔리전스 플랫폼을 통해 거대 플랫폼 개발에 드는 비용과 시간을 절감할 수 있을 것"이라고 기대했다.
ⓒ새로운 눈으로 시장을 바라봅니다. 딜사이트 무단전재 배포금지
