금융권 AI 경쟁, '모델'서 '통제권'으로

생성형 AI 이미지

금융권의 생성형 인공지능(AI) 경쟁이 모델 도입을 넘어 연산 자원과 금융데이터, 접근권한을 직접 관리하는 방향으로 이동하고 있다.

AI 활용이 내부 업무지원에서 고객 서비스와 여신·리스크 관리 등으로 넓어지면서 어떤 모델을 쓰느냐뿐 아니라 금융정보를 보호하면서 AI를 안정적으로 운용할 수 있는 역량이 중요해지고 있다.

10일 금융권에 따르면 새마을금고중앙회는 엔비디아 B300 그래픽처리장치(GPU) 64개를 확보해 생성형 AI를 내부에서 운용할 수 있는 환경을 마련하고 있다. 모델 추론을 주 용도로 활용하면서 일부 모델의 학습·튜닝과 데이터 처리도 내부에서 수행한다.

핵심은 AI 운영 전반의 통제권이다. 내부에 설치한 모델과 외부 모델을 업무와 보안정책에 따라 구분해 사용할 수 있도록 하고 사용자·부서별 접근권한과 사용량을 관리한다. GPU 역시 업무와 프로젝트별로 배분해 한정된 연산 자원을 효율적으로 활용할 수 있도록 한다.

관리자 접속과 권한 변경, 모델 배포 등 주요 행위도 기록·관리한다. AI 모델의 정확도와 환각, 편향성, 개인정보 보호 등을 검증하고 모델이나 데이터가 바뀌면 성능 변화를 다시 확인할 수 있도록 한다. AI를 금융회사가 관리·통제하는 업무 체계 안으로 편입하는 것이다.

이 같은 변화는 금융당국의 정책 방향과도 맞물린다. 금융위는 지난 6월 22일부터 개정 '금융분야 인공지능 가이드라인'을 시행했다. 최고경영자를 포함한 경영진의 책임을 명확히 하고 신뢰할 수 있는 데이터와 모델 사용, 임직원의 최종 의사결정 책임, 보안 기준과 점검·개선체계 등을 7대 원칙으로 제시했다.

지난달에는 '프런티어 AI 보안위협 금융분야 대응요령'을 마련·배포했다. 금융회사에 다중 인증과 최소 권한 부여, 중요 데이터 접근 검증, 네트워크 세분화 등 제로트러스트 기반 보안 조치를 제시했다. AI 이용을 막기보다 활용 범위를 넓히면서 데이터와 시스템에 대한 접근을 세밀하게 관리하려는 방향이다.

한국은행도 내부 AI 플랫폼 'BOKI'를 마련하고 약 140만건의 내부 문서를 디지털화해 업무 전반에서 AI를 활용할 수 있는 기반을 확보했다. 금융권에서 생성형 AI 활용이 외부 서비스 이용을 넘어 내부 데이터와 업무체계를 AI에 맞게 재편하는 단계로 이동하고 있는 것이다.


금융권 관계자는 “금융권 AI 경쟁의 기준이 모델 성능과 서비스 출시 속도에서 운영 역량으로 넓어지고 있다”며 “내·외부 AI를 업무 위험도에 맞게 배치하고 연산 자원을 효율적으로 활용하면서 결과와 이용 과정을 검증할 수 있는지가 AI 경쟁력을 가르는 요소로 부상했다”고 말했다.

금융권 생성형 AI 운영 현황 - [자료= 취재 종합]

류태웅 기자 bigheroryu@etnews.com