[김경환 변호사의 IT법]<4>인공지능에 의한 행정처분이 가능해졌다

글자 작게 글자 크게 인쇄하기
[김경환 변호사의 IT법]&lt;4&gt;인공지능에 의한 행정처분이 가능해졌다

행정집행 원칙 및 기준이 되는 '행정기본법'이 제정돼 조만간 시행을 앞두고 있다. 여러 조문 가운데 눈에 띄는 것이 있다. 인공지능(AI)에 의한 행정처분 조문인 제20조이다.

독일 연방행정절차법 제35조의a '행정행위의 완전히 자동화된 발급' 조문에 영향을 받은 행정기본법안 제20조에 따르면 기속 행위에 한해 행정청은 AI 기술을 적용한 시스템 등 완전 자동화한 시스템으로 행정처분을 할 수 있다. 완전 자동화했다는 것은 인간의 의사 개입이 없다는 의미로, 공무원 개입 없이 조세나 교통범칙금 처분이 내려질 수 있다는 의미다.

앞으로 이 조문으로 인해 공무원의 실수·편견·부정부패를 방지할 수 있고 행정 효율성이나 중립성, 자원이나 행정비용 절약, 절차 신속의 효과를 올릴 수 있을 것으로 보이지만 제20조 조문 하나만으로 이 제도를 끌어가기에는 역부족으로 보인다. 해결해야 할 쟁점이 너무 많아 관련 입법이 필수로 뒤따라야 할 것으로 보인다. 예컨대 개인정보 보호나 알고리즘 신뢰성, 책임과 불복 등 문제점이 지적되고 있다.

먼저 개인정보 보호 문제를 지적하지 않을 수 없다. AI에 의한 행정처분은 알고리즘에 의해 자동화한 의사결정(ADM)을 포함한다. 당연히 개인정보 처리를 전제로 한다. 유럽연합(EU)의 경우 ADM에 대한 정보 주체의 권리를 개인정보보호규정(GDPR)에 마련하고 있다. 예컨대 정보 주체는 ADM을 위한 개인정보 처리에 반대하거나 ADM에 따르지 않을 권리, ADM에 대해 이의를 제기하고 자신의 견해를 표명할 권리, ADM에 대한 설명을 요구할 수 있는 권리 등을 가진다.

그러나 행정기본법안에는 이러한 내용이 포함돼 있지 않다. 현행 우리 개인정보보호법에도 이러한 정보 주체의 권리는 규정돼 있지 않다. 다만 개인정보보호위원회는 ADM에 대한 정보 주체의 권리를 준비하고 있다. 그러나 행정기본법안 제20조 도입에 따른 효과를 충분히 고려, 정보 주체의 권리 보완이 필요해 보인다. 특히 행정처분이 어떻게 이뤄졌는지 알기 어렵다는 점에서 알고리즘 설명은 반드시 전제돼야 할 것이다.

알고리즘 신뢰성이나 위험 문제도 중요하게 다뤄져야 한다. ADM은 알고리즘에 의한 의사결정을 의미하기 때문에 알고리즘 신뢰성이나 위험 검증 절차 등이 선행돼야 한다. 즉 행정처분의 기초가 되는 알고리즘에 입법 취지나 내용이 정확하게 반영됐는지 확인하고 주기 점검 제도 등이 필요하지만 현재 지능정보화기본법이나 전자정부법 등에는 이러한 내용이 존재하지 않는다.

데이터 편향성 또는 부적절한 알고리즘에 의해 피해가 발생한 경우 이에 대해 누구에게 어떻게 책임을 물을 수 있는지와 AI에 의한 행정처분, 특히 알고리즘에 대해 불복해서 다툴 수 있는지 등도 고민해야 한다. 예컨대 공무원의 직무상 불법행위에 대해서만 손해배상 청구가 가능한 국가배상법 규정을 정비할 필요가 있고, 행정처분 불복을 전제로 알고리즘에 대해 다투는 것도 가능해야 할 것이다.

이와 함께 AI나 알고리즘을 전제로 하지 않은 행정절차법 규정도 검토가 필요할 것으로 보인다.(예컨대 처분하는 문서에 담당자의 성명 등의 기재를 의무화한 제24조 등), 독일 연방행정절차법에서 언급된 당사자의 개별 특수성을 반영할 제도 마련 등도 함께 검토돼야 할 것이다.

공공 영역에서 ADM을 도입한 행정기본법안 제20조는 그 자체로 매우 중요한 의미가 있기 때문에 관련 제도와 입법 정비를 통해 신뢰할 만한 ADM 환경 조성 노력을 아끼지 말아야 할 것이다.

김경환 법무법인 민후 대표변호사 oalmephaga@minwho.kr