케이뱅크(행장 최우형)가 인터넷은행 최초로 금융 특화 프라이빗 거대언어모델(LLM)을 도입했다. 지난해 2월 KT·KT클라우드·업스테이지와 업무협약을 체결하고 AI 분야 협업을 강화한 성과다.
케이뱅크는 이번 프라이빗 LLM 설계를 위해 금융 공공기관, 금융학회 등에서 발표한 책 1억권 분량의 방대한 금융 전문 데이터를 수집했다. 사후 학습 과정을 통해 금융 데이터를 학습시켜 금융 도메인에 전문성을 강화하고 범용적인 언어 처리 능력을 유지하도록 최적화했다.
이를 통해 금융 관련 질문에 정확성을 높이고, 신뢰도 높은 응답을 제공할 수 있도록 개선했다. 공신력 있는 금융 자격시험 23종에서 추출한 데이터로 LLM을 평가해 금융 지식 수준을 측정하고 종합적인 성능도 입증했다.
프라이빗 LLM은 내부 업무 프로세스 혁신과 대고객 AI 서비스 확대 등을 위해 활용될 예정이다. 임직원에게 자동으로 보고서를 생성해주는 기능 등을 제공할 계획이며, 고객에게는 편리하고 스마트한 금융생활을 지원하는 AI 가상비서 서비스 등 도입을 검토하고 있다.
프라이빗 LLM은 특정 조직이나 기업 내부에서만 사용하도록 설계된 맞춤형 언어 모델이다. 해당 기업이나 특정 분야에 최적화됐다. 프라이빗 LLM은 기업이 원하는 전문 데이터를 학습시켜 정교하고 신뢰성 높은 정보를 생성할 수 있다.
케이뱅크 관계자는 “금융 산업은 높은 보안성과 전문적인 역량을 요하는 만큼 프라이빗 LLM의 활용도가 높다”며 “AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화해나가겠다”고 말했다.
박두호 기자 walnut_park@etnews.com
