범죄 예방부터 현장 대응, 수사 역량 강화까지 치안 전반에 걸쳐 인공지능(AI)과 로봇 기술을 도입하는 미래 치안 체계 구축에 나선 경찰청이 AI 기획·개발·운영 전 과정에 걸친 글로벌 수준 위험 관리 체계를 마련했다.
AI 신뢰성 기술 전문 기업 씽크포비엘(대표 박지환)은 경찰청 미래치안정책국과 지난 7월부터 공동 수행해 온 경찰청 'AI 영향 평가 및 위험 관리' 기준 수립 연구를 26일 공식 마무리했다.
씽크포비엘은 앞서 22일 인천 송도컨벤시아에서 경찰청과 경찰대학이 주최한 '2026 치안 AI 공동학술세미나'에 참석해 일선 경찰 관계자는 물론 학계·일반인에게 연구 성과를 처음 선보였다. 최종 연구 보고서는 11월에 공개한다.
회사는 경찰청이 운영 또는 도입 예정인 AI 시스템 29개의 위험 수준을 검토한 후, 이를 지속해서 관리할 수 있는 기관 차원 통합 체계를 마련했다. 통합 체계는 개별 AI 성능이나 안전성을 평가하는 데 그치지 않고, 실제 운영 과정에서 발생할 수 있는 위험을 조직적으로 통제하는 데 초점을 맞춰 구축됐다.
AI 도입·개발·운영 전 과정에 적용할 AI 위험 관리 방안도 수립됐다. 발주 단계에서 AI 도입 적합성과 위험 요소를 판별하고, 개발 과정에 신뢰성 기준을 충족하는지 검증하도록 했다. 여기에 운영 단계 적정성 점검이 포함됐다.
'AI 영향 평가', '위험 관리 정책', '조직 체계', '조달 가이드라인', '안전성·신뢰성 문서화' 등을 하나의 관리 체계로 연결함으로써 조직의 AI 통제 역량을 강화할 수 있게 했다. 이를 통해 AI가 누구에게 어떤 영향을 미치는지 평가하고 위험 수준에 따라 필요한 조치와 책임 권한을 정하며, 심각한 문제가 발생하면 운영을 중지할 수 있다. 관리 주체나 담당자가 바뀌더라도 같은 기준으로 위험을 관리하고 판단 근거를 기록하도록 관리 체계가 설계됐다.
특히 활발해진 국제 교류 상황을 고려해 국내 AI 법령뿐 아니라 유럽연합(EU) AI 법, ISO 국제표준, NIST AI 위험 관리 체계 등 글로벌 규범을 반영해 향후 AI 안전이나 신뢰성 관련 국제표준에 대응할 수 있도록 선제적으로 조처했다.
국내법과 국제규범 모두 충족하도록 세부 기준을 구체화하고, AI 위험도에 따라 안전관리 수준을 차등 적용하는 방안도 마련됐다. 이는 법에서 요구하는 최소한의 의무 충족 수준을 넘어 국제적으로 통용될 신뢰성 확보 기준을 마련했다는 점에 의미를 부여할 수 있다.
이번 연구에서 주목할 점은 내년 2월 '인공지능 및 데이터 기반 행정 활성화에 관한 법률(AI데이터행정법)' 시행에 따른 공공기관 AI 영향 평가와 위험 관리 방안 수립 의무화를 앞두고 경찰청이 관련 체계 구축에 선도적으로 나섰다는 사실이다.
최근 공공기관이 AI 도입에 적극적이지만, 어떤 기준으로 평가하고 누가 책임지며 어떻게 통제할 것인지에 관한 구체적인 운영체계를 갖추지 못한 경우가 적지 않다. 반면 경찰청은 정책과 절차, 조직과 권한, 기술적 통제와 조달 기준까지 아우르는 실질적인 해법을 제시한 것이다.
회사는 AI 기술 도입이 공공 행정 전반으로 확산하면서 기술 성능 못지않게 'AI 신뢰성'이 중요해졌는데, 경찰청이 다른 공공기관에 모범 사례를 제시했다며 의미를 부여했다.
실제 경찰청은 국민의 생명·안전·기본권에 중대한 영향을 줄 수 있는 고위험 AI 활용 공공기관 중 가장 먼저 체계적인 영향 평가와 위험 관리 시스템을 구축함으로써 AI를 책임 있게 관리할 역량을 갖출 수 있게 됐다.
박지환 대표는 “일부 기관이 규제를 피하려고 AI 기능과 활용 범위 축소 방향을 고민하는 것과 달리, 경찰청은 국내 기준을 넘어 글로벌 규범까지 대응할 수 있도록 조직의 통제 역량을 높이는 길을 선택했다”며 “위험을 피하려고 AI를 덜 쓰는 것이 아니라 위험 관리 능력을 갖춤으로써, 더 많은 AI를 국민 편익을 위해 안전하게 활용할 기반을 마련했다는 점이 이번 연구의 가장 큰 의미”라고 말했다.
그러면서 “경찰청의 선도적인 시도는 공공부문이 AI를 단순히 도입하는 단계를 넘어 국민이 신뢰할 수 있도록 책임 있게 관리하는 단계로 나아가는 중요한 출발점이 될 것”이라고 덧붙였다.
김한식 기자 hskim@etnews.com
