오픈라우터와 국내 첫 공식 협력…내년 3월 개인으로 서비스 대상 확대
금융·공공시장 공략 본격화…종량제·기업 약정 요금제 도입

'AI를 잘쓰는 시대'…KT AX 사업전략 기자간담회

(서울=연합뉴스) 진연수 기자 = 박상원 KT AX사업부문장 전무가 27일 서울 종로구 KT 광화문 WEST 빌딩에서 열린 'KT AX(AI Transformation) 사업 전략 기자간담회'에서 발언하고 있다. 2026.10.27 jin90@yna.co.kr

원본프리뷰

(서울=연합뉴스) 오지은 기자 = KT[030200]가 국내외 인공지능(AI) 모델을 한곳에서 이용하고 사용량과 비용까지 통합 관리할 수 있는 AI 플랫폼 '토큰팩토리'를 오는 30일 출시한다.

출시 초기에는 AI 모델 73종을 제공하고 다음 달 글로벌 AI 플랫폼 오픈라우터와 연계해 500개 이상의 모델을 연계할 예정이다.

기업 고객을 시작으로 내년 3월에는 개인과 개발자까지 서비스 대상을 확대하고 구독형 요금제도 선보일 계획이다.

KT는 27일 서울 종로구 광화문 웨스트빌딩에서 기자간담회를 열고 AI 모델 선택부터 비용 관리, 보안 기능까지 통합 제공하는 'KT 토큰팩토리'를 공개했다.

◇ AI 모델 자동 선택·토큰 25% 절감…73종으로 출발해 500여종 확대

토큰팩토리는 업무 목적과 비용에 맞는 AI 모델을 선택하고 이용 현황 모니터링부터 결제까지 통합 관리할 수 있는 플랫폼이다.

KT는 자체 개발한 AI 모델 라우팅 기술 오토 모델 라우터를 적용해 비용 효율성을 높였다.

이 기술은 질문의 업무 유형과 난이도, 요구 품질, 비용 등을 종합적으로 분석해 적합한 AI 모델을 자동으로 선택한다.

KT에 따르면 오토 모델 라우터는 글로벌 벤치마크 '라우터아레나'에서 종합 1위를 기록했다.

한국어 특성을 고려한 프롬프트 압축 기술도 적용했다.

불필요한 반복 표현 등을 제거해 질문의 의미와 응답 품질을 유사하게 유지하면서 입력 토큰 수를 줄이는 방식이다.

KT는 프롬프트 압축과 모델 라우팅 기술을 통해 토큰 사용을 최대 25% 절감할 수 있다고 설명했다.

프롬프트 압축으로 약 20%, 적합한 저비용 모델 선택으로 약 5%를 절감한다는 것이다.

출시 초기 제공하는 AI 모델 73종 가운데 7종은 KT가 국내 데이터센터의 그래픽처리장치(GPU)를 활용해 직접 추론 서비스를 제공하는 소버린 AI 모델이다.

이진형 KT AX사업본부장 상무는 "7종은 국내에서 가장 많이 쓰는 모델과 국내 스타트업의 최신 모델을 선별한 것"이라며 "내년에는 소버린 AI 모델을 10여종까지 확대하려고 한다"고 말했다.

아울러 KT는 글로벌 AI 모델 마켓플레이스 사업자인 오픈라우터와 국내 최초로 공식 파트너십을 체결했다고 전했다.

오는 11월 오픈라우터가 보유한 500개 이상의 글로벌 AI 모델을 토큰팩토리에 연계하고 국내 AI 모델을 오픈라우터를 통해 해외에 유통하는 사업도 추진한다.

다만 글로벌 모델은 제공 사업자에 따라 해외 서버에서 추론이 이뤄질 수 있다. KT는 이용자에게 모델별 제공 사업자와 운영 지역 정보를 공개할 방침이다.

인사말 하는 박상원 상무

(서울=연합뉴스) 진연수 기자 = 박상원 KT AX사업부문장 전무가 27일 서울 종로구 KT 광화문 WEST 빌딩에서 열린 'KT AX(AI Transformation) 사업 전략 기자간담회'에서 인사말을 하고 있다. 2026.10.27 jin90@yna.co.kr

원본프리뷰

◇ 금융·공공 AX 시장 공략…내년 3월 구독형 요금제 도입

KT는 또 토큰팩토리를 기존 기업 대상 AI 전환(AX) 사업과 결합해 금융·공공시장 공략에 나선다.

이 상무는 "토큰팩토리는 기존 AX 사업과 별개의 사업이 아니라 기업이 새로운 AI 모델을 빠르게 적용하고 사용 현황을 통합 관리하도록 기존 사업을 보완하는 플랫폼"이라고 설명했다.

금융권에는 국내 데이터센터에서 구동되는 AI 모델 7종을 중심으로 공급하고, 공공 분야에는 관련 보안 규제에 맞춘 별도 클라우드 환경에 토큰팩토리를 구축할 계획이다.

KT는 자체 가드레일 기술을 적용해 이용자가 입력한 개인정보와 민감정보, 유해 표현을 점검하고 AI가 생성한 답변의 안전성도 검증한다.

요금제는 사용량에 따라 비용을 지불하는 '스탠다드'와 사용 규모·약정 기간에 따라 할인을 제공하는 '엔터프라이즈'로 구성된다.

스탠다드는 후불 정산과 선불 크레딧을 모두 지원한다.

엔터프라이즈는 기업별 할인과 함께 전용망, 서비스 수준 협약(SLA) 등 맞춤형 기능을 제공한다.

KT는 토큰 중개 수수료보다 자체 인프라에서 AI 추론 서비스를 제공해 확보하는 수익과 통신·클라우드 결합 사업에 무게를 두고 있다.

이 상무는 "단순 중개 수수료가 주력 사업 모델은 아니다"라며 "KT 데이터센터의 GPU를 활용해 직접 토큰을 생산하는 과정에서 발생하는 마진이 주요 수익 모델"이라고 설명했다.

KT는 내년 3월 개인 개발자와 일반 이용자를 대상으로 서비스를 확대하면서 구독형 요금제도 도입한다.

박상원 KT AX사업부문장 전무는 "AI 시장은 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 전환되고 있다"며 "토큰팩토리를 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시키겠다"고 말했다.

built@yna.co.kr