KT, 500개 AI모델이 최적의 답 제시하는 '토큰 팩토리' 공개…독자 AI 생태계 시동

KT가 글로벌 500개 이상 인공지능(AI) 모델을 하나의 플랫폼에 담아 사용한 만큼 요금을 내는 서비스를 국내 최초 출시한다. 이용자가 질문하면 플랫폼이 토큰 비용을 줄이면서 최적의 성능을 내는 AI 서비스를 적용해 답변한다. 최대 25%의 토큰 절감 효과를 강점으로 내세웠다. 기업의 AI전환(AX) 수요를 선제적으로 확보하겠다는 전략이다.

KT는 27일 KT광화문빌딩 웨스트에서 AI 플랫폼 'KT 토큰 팩토리'를 공개하고, 오는 30일 정식 출시한다고 밝혔다.

KT 토큰 팩토리는 국내·외 주요 AI 모델을 한데 모아 고객의 업무 목적, 비용, 보안 요구사항에 맞는 최적 모델을 제시한다. 사용자는 AI 모델을 개별적으로 탐색하거나 이용 환경을 관리할 필요 없이 모델 선택부터 이용 현황 모니터링, 실시간 비용까지 통합적으로 확인할 수 있다.

KT AX 기자간담회가 'AI를 잘 쓰는 시대, KT의 새로운 도전'을 주제로 27일 서울 종로구 KT 광화문 웨스트 빌딩에서 열렸다. 이진형 KT AX사업본부장이 발표하고 있다.  김민수기자 mskim@etnews.com
KT AX 기자간담회가 'AI를 잘 쓰는 시대, KT의 새로운 도전'을 주제로 27일 서울 종로구 KT 광화문 웨스트 빌딩에서 열렸다. 이진형 KT AX사업본부장이 발표하고 있다. 김민수기자 mskim@etnews.com

이 플랫폼에는 업스테이지(솔라-프로4), KT(믿음K3.0), 모티브(모티프-3), 구글(젬마-4) 등 KT가 국내에 직접 서비스하고 있는 AI 모델을 포함해 오픈AI(GPT-6 아스트라), 앤트로픽(클로드 페이블5), xAI(그록4.7) 등 글로벌 대표 AI 모델까지 총 73종이 우선 입점해 30일 출시한다. 글로벌 최대 AI 모델 마켓플레이스 사업자인 오픈라우터와 국내 최초로 제휴해 오는 12월에는 500개 이상 모델도 함께 서비스할 계획이다.

KT는 토큰 팩토리가 단순히 AI 모델을 중개 판매하는 유통 플랫폼이 아닌 자체 기술력과 인프라를 결합한 AX 지원 플랫폼임을 강조했다.

실제 KT는 토큰 팩토리에 '오토 모델 라우터' 기술을 적용, 프롬프트 요청과 설정에 가장 적합한 모델을 매칭해 응답하도록 설계됐다. 단순히 성능이 높은 모델이나 가장 저렴한 모델을 일률적으로 선택하는 게 아닌 고객이 요구하는 품질을 충족하면서 비용 효율도 높이는 AI 모델을 우선 사용한다.

아울러 입출력 프롬프트 압축 기술을 활용해 토큰 수를 줄여 처리 효율을 높이고 비용 부담과 응답 시간을 낮춘다. 이를 활용해 토큰 사용량을 최대 25%까지 절감한다는 게 회사측 설명이다. KT 데이터센터에서 직접 AI 추론 서비스를 제공해 데이터 주권을 보장하고, 자체 가드레일 기술을 적용해 민감·유해정보를 차단하는 것도 강점으로 내세웠다.

KT는 우선 공략 대상으로 기업간거래(B2B), 기업·기관간거래(B2G) 영역을 꼽았다. 현재 AI 에이전트, 클라우드 구축을 중심으로 한 AX사업에 토큰 팩토리를 핵심 도구로 활용할 방침이다.

KT AX 기자간담회가 'AI를 잘 쓰는 시대, KT의 새로운 도전'을 주제로 27일 서울 종로구 KT 광화문 웨스트 빌딩에서 열렸다. 이진형 KT AX사업본부장이 발표하고 있다.  김민수기자 mskim@etnews.com
KT AX 기자간담회가 'AI를 잘 쓰는 시대, KT의 새로운 도전'을 주제로 27일 서울 종로구 KT 광화문 웨스트 빌딩에서 열렸다. 이진형 KT AX사업본부장이 발표하고 있다. 김민수기자 mskim@etnews.com

과금 체계는 쓴 만큼 지불하는 스탠다드 요금제와 사용기간에 따른 약정할인을 제공하는 엔터프라이즈 요금제로 우선 출시한다. 내년 3월에는 개발자와 일반 고객을 위한 서비스도 출시, 구독 상품으로 판매할 계획이다.

KT는 통신사가 가진 요금설계, 과금 노하우를 토큰 팩토리에 접목, AI 플랫폼 사업을 확장하는 동시에 주요 AI 기업을 한데 모아 독자 생태계 구축을 시도할 것으로 예상된다. AI 모델 유통을 넘어 AI데이터센터(AIDC), 클라우드 등 인프라와 결합해 부가가치 창출도 본격화할 것으로 보인다.

이진형 KT AX사업본부장은 “내년 글로벌 토큰 시장 규모는 약 215조원으로 예상되며 이 수요는 지속 증가할 것”이라며 “AI 모델 입점에 따른 수수료 외에도 KT가 자체적으로 서비스하고 있는 AI 모델 판매에 집중하는 동시에 프라이빗 클라우드 등과 연계한 부가 서비스로 수익성을 확보할 것”이라고 말했다.

정용철 기자 jungyc@etnews.com

  • ET Events