한전KPS가 감사 업무에 도입한 인공지능(AI) 에이전트의 부작용과 위험요소를 줄이기 위한 방어체계를 구축한다. 편의성과 효율성보다 보안과 윤리를 앞세워 AI 감사 체계를 정비한다는 구상이다.
한전KPS는 AI 감사 프레임워크 'KPS AI 이지스(AEGIS)' 구축 전담반을 꾸리고 전남광주 나주 본사에서 첫 회의를 개최했다고 7일 밝혔다.
이지스는 그리스 신화에서 신을 보호하는 방패를 뜻한다. AI 에이전트 도입으로 생길 수 있는 새로운 위험에서 조직을 보호하겠다는 의미를 담았다.
한전KPS는 감사 업무에 특화한 AI 에이전트 '감사해'를 개발해 5월부터 운영하고 있다. 감사해는 △감사보고서 자동 생성 지원 △문장·어문법 검토 △과거 징계사례 분석 및 징계 양정 보고서 생성 △감사 관련 질의응답 △공사설계 적정성 점검 △안전관리비 적정성 검토 등의 기능을 제공한다. 데이터 분석으로 이상징후와 패턴을 식별해 감사인에게 위험신호를 알리는 역할도 맡는다.
다만 실제 감사 과정에서 드러난 문제점과 함께 개인정보 유출·데이터 보안 등 윤리적 이슈를 검토할 필요성이 제기됐다. 전담반 출범은 이에 따른 후속 조치다.
전담반은 감사실을 중심으로 전사 관련 부서가 참여한다. 업무에 가장 적합한 AI 활용 방식을 찾아 적용하는 것이 목표다. '대한민국 인공지능 윤리원칙' 제정에 맞춰 기술 안전성과 신뢰성을 확보한 AI 감사 프레임워크 도입도 추진한다.
이성규 한전KPS 상임감사는 “감사 업무에 새로 도입한 AI 에이전트는 민감한 정보를 학습하는 만큼 높은 윤리성과 철저한 리스크 관리가 필요하다”며 “결과의 공정성과 신뢰성, 주요 정보의 보안성을 최우선시하겠다”고 말했다.
최성웅 기자 yes@etnews.com
