[딜사이트 최령 기자] KT가 AI 모델 공급과 사용량 관리, 과금을 통합한 ‘토큰팩토리’로 기업 AI 전환(AX) 사업 확장에 나선다. 외부 모델 중개와 국내 데이터센터 기반의 추론 서비스를 병행하고 통신·클라우드를 결합해 수익을 확보한다는 구상이다.

KT는 27일 서울 종로구 광화문 West 빌딩에서 기자간담회를 열고 오는 30일 토큰팩토리를 출시한다고 밝혔다. 기업·공공 시장을 우선 공략한 뒤 내년 3월 개인 개발자와 개인 이용자로 대상을 확대할 계획이다.

박상원 KT AX사업부문장은 “모델 경쟁에서 AX 경쟁으로 키워드가 옮겨가고 있다”며 “실질적인 성과와 가치 창출로 어떻게 전환하느냐가 가장 중요한 화두”라고 말했다. AI를 업무에 적용하는 ‘실행’, 비용을 낮추는 ‘효율’, 보안과 정확성을 확보하는 ‘신뢰’를 사업 방향으로 제시했다.

토큰팩토리는 하나의 API로 여러 AI 모델을 연결하고 사용량과 비용을 통합 관리하는 플랫폼이다. 기존 에이전트에 최신 모델을 적용하고 부서별로 사용하는 AI를 기업 관리체계에 편입한다. 데이터 정제와 에이전트 구축 등 기존 AX 사업에 모델 공급·운영을 결합하는 구조다.

사업은 외부 모델 입점과 자체 추론 서비스로 나뉜다. KT는 글로벌 AI 모델 중개 플랫폼 오픈라우터와 국내 최초로 공식 파트너십을 체결했다. 해외 모델을 토큰팩토리에 입점시키고 국내에서 운영하는 모델은 오픈라우터를 통해 해외에 판매하는 양방향 협력이다.

출시 시점에는 73종을 제공하고 내달 오픈라우터 입점을 통해 500개 이상의 글로벌 모델을 연계할 예정이다. 국내 인프라에서 직접 운영하는 모델은 우선 7종이며 내년에는 10여 종으로 확대한다.

이진형 KT AX사업본부장은 “자체 인프라에서 AI 모델을 공급하는 사업과 모델을 유통하는 사업을 모두 제공한다”며 “오픈라우터의 모델이 입점하고 여기에 KT가 개발한 라우터와 토큰 최적화 기능을 함께 제공하는 방식”이라고 설명했다.

수익화의 중심은 직접 운영하는 추론 서비스다. KT 데이터센터의 GPU에서 자체 모델과 국내외 오픈웨이트 모델을 구동해 답변을 생성한다. ‘토큰 직접 생산’은 이 추론 과정을 뜻한다. 인프라 운영과 모델 최적화로 원가를 관리하면서 이용 요금과의 차액을 수익으로 확보하는 구조다.

이 본부장은 “글로벌 중개 사업자들은 보통 약 5%의 수수료를 받지만 저희는 수수료가 메인 비즈니스 모델은 아니다”라며 “직접 토큰을 생산하기 때문에 마진을 선택할 수 있는 폭이 넓다. 여기서의 마진율이 수익화 모델”이라고 밝혔다.

외부 입점 모델은 전용망·프라이빗 클라우드·구독형 서비스와 결합한다. 기업의 에이전트나 클라우드 구축에 토큰팩토리를 함께 공급하고 전체 AX 사업 구성에 따라 가격을 유연하게 설계한다. 구체적인 마진율과 매출 목표는 공개하지 않았다.

요금제는 사용량에 따라 과금하는 ‘스탠다드’와 사용 규모·기간 약정에 따라 할인하는 ‘엔터프라이즈’로 출발한다. 스탠다드는 후불 정산과 선불 크레딧을 지원한다. 엔터프라이즈에는 전용선과 서비스 수준 협약(SLA) 등 맞춤형 환경을 제공한다. 개인 대상 구독형 요금제는 내년 3월 출시를 추진한다.

아마존웹서비스(AWS)의 ‘베드록’과는 서비스 범위와 입점 구조가 다르다고 강조했다. 이 본부장은 “베드록은 서비스형 플랫폼(PaaS)에 가깝고 저희는 PaaS와 서비스형 소프트웨어(SaaS)를 동시에 제공한다”며 자체 라우팅과 가드레일, 토큰 최적화를 차별화 요소로 꼽았다.

비용 절감의 핵심인 ‘오토 모델 라우터’는 질문의 유형·난이도와 이용자가 설정한 품질·비용 기준에 따라 적합한 모델을 자동 선택한다. 단순 질문에는 경량 모델을, 복잡한 분석에는 고성능 모델을 연결한다. 원만호 KT AX플랫폼본부장은 “오토 모델 라우터는 글로벌 벤치마크 라우터 아레나(RouterArena)에서 현재 1위를 하고 있다”고 말했다.

KT는 프롬프트 압축과 모델 자동 선택으로 AI 이용 비용을 최대 25% 줄일 수 있다고 설명했다. 김준석 KT 에이전틱 AI랩장은 “프롬프트에서 불필요한 내용을 제거해 입력 토큰 수를 줄이는 방식으로 약 20%를 절감한다”며 “나머지 5%는 해당 업무를 처리할 수 있는 가장 저렴한 AI 모델을 자동 선택하는 라우팅 기술에서 나온다”고 밝혔다.

다만 모든 모델이 국내에서 처리되지는 않는다. 이 본부장은 “현재 73종 중 7종이 소버린 모델”이라며 오픈라우터 입점 모델의 추론 지역은 공급사에 따라 달라지고 대부분 해외일 가능성이 크다고 설명했다. KT는 공급자 정보를 제공하고 국내 모델만 선택하는 기능 등을 통해 기업별 보안 요구에 대응할 방침이다.