KB국민은행, 은행권 첫 'AI 정량평가' 도입…품질·위험 수치로 검증

이환주 KB국민은행장. [사진= 전자신문 DB]

KB국민은행이 은행권에서 처음으로 인공지능(AI) 모델과 서비스를 정량 평가하는 표준체계를 도입한다. 생성형 AI가 금융업무 전반으로 확산한 데 따라 은행권 AI 경쟁이 품질과 위험을 객관적으로 검증하는 단계로 넘어가는 점에서 주목된다.

6일 금융권에 따르면 KB국민은행은 내년 상반기까지 AI 평가·검증 체계와 위험관리 체계를 고도화한다는 복안이다. 현재 운영하거나 도입 예정인 AI뿐 아니라 앞으로 3년 안에 활용할 수 있는 서비스 유형까지 분류하고 각각에 맞는 평가 기준을 만든다.

핵심은 AI 품질과 위험을 정성적 판단에만 맡기지 않고 측정할 수 있는 지표로 표준화하는 것이다. AI 서비스의 활용 목적에 따라 모델 성능, 서비스 품질, 서비스 운영, 소비자보호 등 평가항목을 두고 유형별 허용기준을 마련한다.

기존 금융권 AI 거버넌스가 윤리원칙과 내부통제 절차 마련에 초점을 맞췄다면 KB국민은행은 이를 실제 AI 서비스의 사용 적정성을 판정할 수 있는 정량평가 체계로 구체화한다는 점에서 차별화된다.

생성형 AI에는 별도 평가·검증 프레임워크를 적용한다. 평가영역과 항목, 평가방법, 허용기준을 정하고 검증 절차까지 표준화한다. AI 평가·검증 업무 자동화를 위한 솔루션 도입도 검토한다.

위험관리 체계도 재정비한다. AI 위험 수준별 차등 관리 방안을 마련하고 위험평가·심의·모니터링·증빙관리 가운데 시스템화할 대상을 정한다. 준법과 소비자보호 관련 점검항목도 별도로 만든다. AI 에이전트 활용과 관련한 통제방안과 평가·검증 체계도 들여다본다.

규제 대응 체계도 손본다. AI기본법과 금융분야 AI 가이드라인, AI 위험관리 프레임워크(RMF) 등을 반영해 내부 규정과 지침을 재정비하고 고영향 AI 판단기준과 사업자 책무를 실제 업무에 적용하기 위한 절차와 증빙기준을 마련한다.

새 기준은 실제 운영 중인 AI 서비스에 적용해 검증할 방침이다. 행내 서비스를 대상으로 개념검증(PoC)을 실시해 평가·검증 체계의 실효성을 확인하고 운영현황을 주기적으로 점검하는 체계도 마련한다.

은행권에서는 생성형 AI 활용이 상담과 문서작성에서 여신심사와 자산관리 등 핵심 금융업무로 빠르게 확대되고 있다. AI 활용 범위가 넓어질수록 오류나 잘못된 판단이 금융소비자에게 미치는 영향도 커진다. 이에 따라 은행의 AI 경쟁력도 서비스 도입 규모를 넘어 품질과 위험을 얼마나 객관적으로 측정하고 통제하느냐가 중요해지고 있다.


금융권 관계자는 “KB국민은행의 이번 정량평가 체계 구축은 은행 AI 활용이 개발과 도입 중심에서 검증과 관리 영역으로 확장되는 흐름을 보여준다”며 “서비스별 평가 기준과 허용 수준이 구체화되면 AI 활용을 확대하면서도 오류와 소비자 위험을 관리하는 기반이 될 것”이라고 말했다.

KB국민은행 AI 정량평가 체계 핵심 - [자료= 취재 종합]

류태웅 기자 bigheroryu@etnews.com