[중소기업 AI 상담 전환, 온피아②] 자체 AI·서버 기술로 중기 AICC 문턱 낮춰

STT·sLLM·RAG로 상담 응답 정확도 강화
콜센터 인프라 결합한 패키지형 서비스 공개

기업의 전화 상담 업무는 예약·접수·안내·민원·주문 확인·배송 문의까지 폭넓게 이어진다. 그러나 반복 문의 증가, 상담 인력 부족, 콜센터 구축·운영 비용은 중소·중견기업과 소상공인이 고객 응대 체계를 고도화하는 데 부담으로 작용해 왔다.
인공지능 컨택센터(AICC)는 음성인식과 언어모델, 정보 검색 기술을 전화 상담에 적용해 반복 업무를 자동화하고, 상담원이 판단이 필요한 업무에 집중하도록 돕는 시스템이다. 다만 기존 구축형 AICC는 장비와 서버, 외부 솔루션 비용이 커 대형 콜센터 중심으로 도입돼 왔다.
이번 연재는 인공지능(AI)·콜센터 인프라 전문기업 온피아(대표 김연)가 선보이는 '콜센터 커스텀 AI'를 중심으로 중소·중견기업용 AICC 도입 흐름을 살펴본다. KT와 15년간 협력하며 500개사, 5400석 규모 콜센터 시스템을 구축·운영한 경험을 비롯해 음성인식(STT), 소형 언어모델(sLLM), 문맥 기반 검색 기술(RAG) 내재화, 상담 정보 추출·요약 자동화, 패키지형 도입 비용 구조를 차례로 짚는다.
또 콜센터 인프라가 없는 소상공인과 스타트업을 위한 음성 AI 서비스 '시냅보이스'도 함께 다룬다.
연재는 온피아의 서비스 출시 배경과 핵심 기술, 상담 자동화 기능, 도입 비용 구조 등을 중심으로 4회에 걸쳐 소개한다.
[중소기업 AI 상담 전환, 온피아②] 자체 AI·서버 기술로 중기 AICC 문턱 낮춰

인공지능(AI)·콜센터 인프라 전문기업 온피아(대표 김연)가 음성인식, 언어모델, 정보검색, 서버 운영 등 인공지능 컨택센터(AICC) 핵심 기술을 자체 개발·구축하고 중소·중견기업용 AI 상담 서비스 공급에 나선다.

온피아는 지난 3일 선보인 '콜센터 커스텀 AI'에 음성인식(STT), 소형언어모델(sLLM), 문맥 기반 정보검색 기술인 'Contextual Dense RAG', 도메인 파인튜닝 기술을 적용했다.

'콜센터 커스텀 AI'는 전화 상담 업무에 필요한 AI 상담 에이전트와 콜센터 인프라를 결합한 패키지형 서비스다. 기존 구축형 AICC보다 초기 시스템 개발과 운영 부담을 줄인 것이 특징이다. 자체 콜센터 설비나 전문 운영 인력이 부족한 중소·중견기업을 주요 대상으로 한다.

AICC는 고객 음성을 문자로 변환하고 문의 의도를 분석한 뒤 기업 내부 자료를 검색해 답변을 생성하는 방식으로 운영한다. 주문 확인, 예약 접수, 자주 묻는 질문 응대 등 반복 업무는 AI가 처리하고, 상담원은 민원·계약 상담처럼 판단이 필요한 업무에 집중하도록 지원한다.

온피아가 적용한 STT는 고객 음성을 문자로 바꾸고, sLLM은 변환된 상담 문장을 토대로 고객 문의의 의도와 맥락을 분석한다. Contextual Dense RAG는 상품 정보, 업무 매뉴얼, 상담 이력, 자주 묻는 질문 등 기업 보유 데이터를 검색해 답변 생성 과정에 반영한다. 도메인 파인튜닝은 업종별 표현과 상담 절차를 기업 업무에 맞게 조정하는 데 활용한다.

온피아는 생성형 AI 상담 도입 과정에서 지적되는 환각 현상을 줄이기 위한 제어 기능도 적용했다고 설명했다. 환각 현상은 AI가 사실과 다른 내용을 실제 정보처럼 답변하는 문제다. 온피아는 자체 특허 기술을 적용해 내부 데이터 검색 결과를 우선 반영하고, 확인한 정보를 중심으로 응답하도록 설계했다. 회사 측은 이를 통해 정보 정확도가 95% 이상이라고 소개했다.

온피아, 인공지능 상담 에이전트 시스템 구성도.
온피아, 인공지능 상담 에이전트 시스템 구성도.

서버 운영 체계도 자체 구축했다. 온피아는 API 형태로 연동할 수 있는 GPU 서버 아키텍처를 구축했다. 외부 GPU 클라우드 의존도를 낮추고 자체 최적화 서버 환경을 활용해 서비스 운영비와 도입 비용을 낮추는 구조다.

온피아는 지난 15년간 KT와 콜센터 인프라 분야에서 협력해 왔다. 이 기간 500개 이상 기업에 총 5400석 규모의 콜센터 시스템을 구축·운영했다. 주요 구축 범위는 사설교환기(PBX), 컴퓨터전화통합(CTI), 상담원 시스템, 통화 녹취 등이다.

기존 콜센터를 운영 중인 기업은 현재 시스템에 AI 기능을 연계할 수 있다. 신규 고객은 전화 교환 기능, 상담원 연결, 녹취, AI 상담 기능을 묶어 도입할 수 있다.

콜센터 설비가 없는 소상공인과 스타트업을 위한 음성 AI 서비스도 별도로 선보인다. 온피아가 독자 개발한 '시냅보이스'는 별도 콜센터 인프라 없이 AI 음성 에이전트가 예약, 접수, 기본 안내 등 전화 응대 업무를 지원하는 서비스다.

온피아는 자체 AI 기술과 콜센터 운영 경험을 기반으로 중소·중견기업과 소상공인 대상 AICC 공급 대상을 넓혀갈 계획이다.

김연 대표는 “중소·중견기업도 별도 시스템 구축 부담 없이 AI 상담 기능을 도입할 수 있도록 서비스 구조를 단순화했다”며 “콜센터 인프라 운영 경험과 자체 AI 기술을 결합해 기업 규모와 업종에 맞는 AICC 서비스를 확대하겠다”고 말했다.

김동성 기자 estar@etnews.com

  • ET Events