공공·행정 분야 인공지능(AI) 활용에 앞서 투명성과 공정성이 담보돼야 한다는 의견이 제시됐다. 의사결정에 대한 설명성을 갖추는 것은 물론, 이의제기가 가능해야 한다는 주장이다.
정부가 국민 누구나 무료로 사용하는 '모두의 AI' 서비스 개발과 함께 신청하지 않아도 찾아가는 복지 등 공공 AI 에이전트 지원을 예고한 가운데, 의사결정 과정과 행정절차 등을 명백히 확인할 수 있는 수준에서 AI 활용이 요구될 전망이다.
행정법이론실무학회가 1일 서울 역삼동 강남파이낸스센터에서 'AX 제도적 인프라로 인공지능법제'를 주제로 연 세미나에서 최명지 인하대 법학전문대학원 교수는 “공공부문에서 활용되는 AI는 정확하고 효율적이라는 이유만으로는 정당화될 수 없다”며 “AI가 국민 삶과 권리에 영향을 미치는 공적 의사결정에 활용될 경우 투명성과 공정성, 기본권 보호를 위한 법적 원칙이 선행돼야 한다”고 말했다.
AI 시대에도 법률 적합성, 평등, 이유제시, 의견과 다툼의 기회, 책임 등 행정법의 기본 원칙은 변하지 않는다는 게 이유다. AI가 생산성과 효율성을 높이는 기술이지만 국민 기본권에 영향을 미치는 순간 결정이 공정한지, 설명할 수 있는지, 잘못됐을 때 다툴 수 있는지 확인해야 한다는 것이다.
특히 공공 AI는 대체재가 있는 민간 서비스와 달라야 한다고 강조됐다.
최 교수는 “민간 서비스 이용자는 불만이 있을 경우 다른 서비스를 선택할 수 있지만 국가가 AI를 활용해 복지·과세·평가·예측 등 결정을 내리면 추가 선택지가 없고 공권력의 직접 영향을 받을 수밖에 없다”고 지적했다.
공공 AI의 공정성 확보를 위한 필수 규율로 인간 존엄과 기본권 보장, 적법성과 책임성, 평등과 공정성, 투명성과 설명 가능성, 사전 예방과 민주적 참여·포용, 실효적 권리구제 등을 제시했다.
최 교수는 “AI는 행정의 목적이 아닌 국민 삶을 위한 수단이어야 한다”며 “기본권에 중대한 영향을 미치는 영역에서는 인간이 실질적인 최종 판단권을 가져갈 수 있게 설계돼야 한다”고 말했다. 국민이 AI 판단 과정을 확인할 수 있고, 오류를 발견하면 이의를 제기할 수 있어야 한다고 부연했다.
배기철 경희대 법학전문대학원 교수도 “AI가 행정기관의 재량적 판단에 영향을 미칠 수 있는 만큼 공무원의 실질적 개입과 설명요구권 등 절차적 통제를 강화해야 한다”고 제안했다.
학습 데이터의 편향이 행정 판단에 반영되면 평등 원칙을 침해할 위험이 존재한다는 점에서 통제장치(가드레일)가 필요하다는 것이다.
민원 상담과 행정지도, 탈세·부정수급 탐지, 위험시설 이상 징후 예측, 조사 대상 선정 등으로 생성형 AI 활용이 확대될수록 발생 가능한 문제가 다양해진다는 점도 숙고해야 할 과제로 지목됐다.
배 교수는 “공공 AI 도입에 따른 행정 효율성과 국민 기본권 보호 사이 균형을 잡기 위해 AI 활용을 사전에 검증하고, 인간 개입과 사후 권리 구제까지 연결하는 새로운 행정절차 체계가 필요하다”고 말했다.
한편 이날 세미나는 학회 주도 <공공부문 인공지능 전환과 행정법> <인공지능기본법: 해설과 전망> 도서 발간에 따라 마련됐다.
저자 대표인 김태호 헌법재판소 책임연구관(전 행정법이론실무학회 회장)은 “유럽연합(EU) AI 액트에 대한 이해를 시작으로 책임감 있는 AI 법제에 관한 연구를 행정법과 AI기본법 해설 관점으로 확대 발전시켜 학회 차원 연구총서를 발간하게 됐다”고 설명했다.
박재윤 행정법이론실무학회 회장(한국외대 교수)은 “정부와 기업·학계에서 AI를 단순 도구로 활용하는 것을 넘어 핵심 운영 시스템으로 간주하고 정착을 위해 노력하고 있다”며 “초기 법체계는 AI 기술 보호와 윤리 차원에서 이뤄졌다면 현재 국제적 맥락에 맞춘 법제화로 급속히 변모되고 있다”고 진단했다.
박종진 기자 truth@etnews.com
