LG유플러스가 내년 인공지능(AI) 토큰 사업에 진출한다. 내재화한 토큰 최적화 기술로 기업 고객의 AI전환(AX) 부담을 줄이는 사업이다. 모델 라우팅·경량화·칩 믹스를 결합해 업무 완결 총비용(TCO)을 절감하는 데 초점을 맞췄다.
이상엽 LG유플러스 최고기술책임자(CTO)는 “AI 시장 패권은 누가 더 큰 모델을 만드느냐를 넘어 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다”며 “단순히 토큰 단가 경쟁보다 업무를 끝내기까지 드는 총비용을 낮추는 것이 AI 사업의 기술적 해자가 될 것”이라고 15일 밝혔다.
LG유플러스는 에이전트부터 반도체까지 전 계층을 묶어 최적화하는 기술력을 앞세웠다. 에이전트 작업 경로를 설계하는 '하네스 엔지니어링', 질문 유형에 맞는 모델을 배분하는 '지능형 라우팅', 추론 최적화를 위해 이기종 반도체를 쓰는 '칩 믹스'가 핵심이다.
먼저 AI 에이전트가 업무 수행 과정에서 불필요한 검색이나 검증을 반복하지 않도록 하고, 작업 난이도에 맞는 최적 모델을 연결해 토큰 사용량을 낮춘다. 일반 질문 처리 비용은 25%, 코딩 에이전트 비용은 30% 이상 낮춘 기술검증(PoC) 사례도 확보했다. 회사 측은 “토큰 소모가 큰 코딩 영역에서도 AI 모델 운영 비용 90% 절감 효과를 확인했다”고 설명했다.
모델 경량화와 추론 기술도 결합한다. 자체 온디바이스 AI 모델은 크기를 3분의 1 수준으로 줄이면서 범용 클라우드 모델 대비 95% 이상 성능을 확보했다. 작은 모델이 답변을 빠르게 생성하고 큰 모델이 이를 검증하는 기술로 토큰 생성 속도는 2배 이상 높였다. 연산 처리 방식을 바꿔 동일 인프라 대비 처리 효율도 약 4배로 끌어올렸다.
인프라는 '칩 믹스' 전략을 택했다. 엔비디아·AMD의 그래픽처리장치(GPU)와 퓨리오사AI의 국산 신경망처리장치(NPU)를 결합해 질문분석(프리필)·답변생성(디코드)를 나눠 맡긴다. 대규모 연산이 필요한 작업과 메모리 대역폭이 중요한 작업을 분산 처리해 인프라 원가를 낮추는 구조다.
LG유플러스는 협력사 제휴 방식과 직접 구축 방식을 병행해 내년부터 B2B AI 토큰 시장 공략을 본격화한다. LG유플러스 가세로 통신 3사 모두 토큰 경제에 뛰어들게 됐다. 앞서 KT는 AI 모델 자동 연결과 과금 관리를 지원하는 기업용 플랫폼 '토큰팩토리'를 출시했고, SK텔레콤도 '토큰 게이트웨이'를 신사업으로 제시했다.
이상엽 CTO는 “글로벌 수준의 모델 경량화·추론 기술과 익시오, 모두의 AI 사업 수행 과정에서 축적한 최적화 노하우를 결합해, 기업 고객이 합리적 비용으로 최고의 AI 성과를 낼 수 있는 서비스를 제공할 것”이라고 말했다.
박준호 기자 junho@etnews.com
