리벨리온의 신경망처리장치(NPU)가 SK텔레콤의 에이닷과 인공지능(AI) 고객센터 등 상용 서비스로 적용 범위를 넓혔다. 현재 리벨리온 NPU가 처리하는 SKT의 실시간 AI 트래픽은 하루 약 1400만건으로, 토큰 기준 40억개를 넘는다.
리벨리온은 자사 NPU가 SKT의 상용 AI 서비스 4개의 주요 기능에 적용됐다고 21일 밝혔다. NPU는 AI 모델의 추론 연산을 효율적으로 처리하도록 설계된 반도체다.
양사는 작년 6월 SKT의 주요 AI 서비스에 국산 NPU를 적용하기 위한 테스트에 착수했다. 같은 해 12월 에이닷 통화요약의 '관계추정' 기능에 리벨리온의 AI 반도체 '아톰맥스(ATOM-Max)' 기반 서버를 처음 상용 적용했다.
적용 범위는 올해 6월부터 확대됐다. 에이닷 통화요약의 '한 줄 요약', 에이닷의 스트리밍 음성합성(TTS), AI 고객센터(AICC)의 상담 후처리·검색 시스템, 스캠뱅가드의 미끼 문자 탐지 기능 등에 리벨리온 NPU가 순차 도입됐다.
박성현 리벨리온 대표는 “대규모 상용 운영 실적을 바탕으로 국내외 AI 서비스의 저변을 넓혀 나가겠다”고 말했다.
박유민 기자 newmin@etnews.com
