[ET단상] AI 시대, 정보시스템 감리 기법도 달라져야 한다

바야흐로 인공지능(AI)이 국가 경영의 핵심 정책이 되는 시대다. 정부는 'AI 3대 강국(G3)' 도약을 경제 분야 최우선 과제로 내걸고, 올해 AI 관련 예산만 10조원 넘게 배정했다. 이에 따라 각 부처와 공공기관은 정보시스템의 신규 구축과 고도화 과정에서 AI 기술을 전면 도입하며 본격적인 AI 트랜스포메이션(AX)을 추진하고 있다. 이제 AI는 수많은 정보를 단순 검색하는 단계를 넘어 데이터를 융합하고 새로운 정보를 생성하며 사용자에게 최적화된 상태로 변환·제공하는 중추적인 역할을 수행하고 있다. 최근 생성형 AI는 텍스트와 코드를 창조하며 행정 생산성을 혁신하고 있고, 스스로 목표를 설정해 실행까지 완수하는 '에이젠틱 AI'의 등장은 공공 서비스 패러다임을 근본적으로 바꾸고 있다.

그러나 AI가 선사하는 파격적인 유용성만큼이나 그 이면에 도사린 위험 역시 만만치 않다. 생성형 AI는 존재하지 않는 사실을 진실인 양 답하는 '할루시네이션(환각)' 현상을 기술적으로 완전히 탈피하기 어렵고, 자율성을 가진 에이젠틱 AI는 복잡한 판단 과정에서 인간의 의도와 어긋나는 예기치 못한 행동을 할 위험이 상존한다. 만약 행정 의사결정을 지원하는 AI 에이전트가 오염된 데이터를 학습하거나 권한 밖의 명령을 수행한다면, 이는 공공 행정의 신뢰도를 실추시키는 심각한 사회적 재앙으로 이어질 수 있다. 또 AI 기술은 사이버 침해 기술에 있어서도 과거와 비교할 수 없는 재앙적 수준의 지능화와 진화를 초래할 수 있다는 점을 유념해야 한다.

이러한 상황에서 공공부문 발주자들은 AI 기술의 높은 문턱과 전문인력 부재를 절감하고 있다. AI 프로젝트에는 종전과 달리 데이터 품질, 알고리즘 편향성, 모델의 지속적인 학습 등 고려해야 할 변수가 많다. 하지만 현재 AI 지식과 실무 경험을 갖춘 공공부분 발주자는 매우 부족해, 프로젝트 기획 단계부터 검수까지 기술적 불확실성을 통제하고 성공적인 결과물을 도출하는 데 큰 어려움을 겪고 있다. 이로 인해 자칫 막대한 예산이 투입된 국가 AI 사업 품질 저하나 보안 사고로 이어질 우려가 크다.

바로 이 점에서 선진화된 'AI 특화 감리' 역할이 절실하다. 고도화된 감리 기법은 단순히 시스템 결함을 찾는 수준을 넘어, 발주자 전문성을 보완하고 프로젝트 연착륙을 돕는 '기술적 조력자(Technical Advisor)'가 돼야 한다. 데이터 편향성을 정밀하게 진단하고 AI 판단 로직을 투명하게 모니터링하는 '설명 가능한 AI(XAI)' 관점 감리가 보편화된다면, 발주자는 전문 지식이 다소 부족하더라도 감리 보고서를 통해 객관적인 품질 상태를 확인할 수 있다. 즉, 잘 설계된 AI 감리는 발주자의 기술적 부담을 덜어주고 프로젝트 전 주기의 안전성을 담보하는 핵심 해결책이다.

이러한 대전환을 실현할 동력은 결국 전문인력 역량 강화에 있다. 현재 정보화 초기부터 헌신해 온 베테랑 감리전문가들이 현장을 지키고 있으나, AI 모델 아키텍처나 에이전트 제어 기술에 대한 이해도는 아직 보완이 필요하다. 전자정부법은 감리원의 최신 기술 습득을 위해 3년마다 40시간 이상 계속교육을 규정하고 있고, 감리협회는 작년 말 1400여명을 대상으로 AI 안전성 확보 방안 교육을 실시해 큰 호응을 얻었는데, 이제는 이를 체계화할 단계다.

생성형 AI 보안 취약점 분석과 에이전틱 AI 자율성 통제 방안 등을 포함한 '실무형 AI 감리 교육 과정'을 정립하기 위해 각계의 최고 전문가를 모아 표준교재를 마련하고 실제 사고 사례 기반 시나리오 교육을 강화해야 한다. 나아가 교육 후 일정한 검정과 인증서 발급 제도를 도입하고, 발주처가 감리업체를 선정할 때 AI 특화 감리 자격자를 확보한 업체를 우대하는 등의 제도적 인센티브를 명시하는 적극적 조치도 필요하다.

잘 훈련된 AI 감리 전문가는 발주자의 부족한 지식을 메워주고 시스템 신뢰를 담보하는 가장 확실한 안전장치다. AX 시대 감리는 디지털 대한민국의 새로운 도약을 이끌 나침반이자 능동적인 방어 기제가 돼야 한다. 이를 위해서는 이를 검증하고 발주자를 지원하는 선진 감리 기법이라는 '안전벨트'를 갖추는 일을 소홀히 해서는 안 된다.

이러한 AI 감리 확보는 감리 사각지대를 메우는 운영감리 의무화와 함께 발주자들의 최대 관심사다. 행정안전부와 한국지능정보사회진흥원(NIA)은 감리현장과 소통하면서 필요한 절차와 법제개선에 박차를 가하기를 기대한다.

신우찬 국가보훈부 정보화담당관 woochans@korea.kr