[민원기의 디지털경제]유럽연합(EU) '인공지능규제안'의 의미와 중요성

글자 작게 글자 크게 인쇄하기
민원기 한국뉴욕주립대 총장
<민원기 한국뉴욕주립대 총장>

세계의 관심을 끌었던 유럽연합(EU)의 '인공지능규제안'이 4월 21일 발표되었다. EU의 디지털 짜르(Digital Czar)로 불리는 EU집행위 마가레트 베스타거 부통령은 총 85개 조항으로 구성된 EU의 '인공지능규제법안'을 통해 EU가 신뢰할 수 있는 인공지능시스템 구현을 주도해 나가겠다고 밝혔다.

'인공지능규제안'이 최종 확정돼 효력을 발효하기 위해서는 EU 의회의 투표와 회원국의 승인 과정을 거쳐야 한다. 2018년 발효된 EU의 '개인정보보호규정(GDPR)'의 경우 법안 제안부터 발효까지 4년의 기간이 필요했던 것에 비추어 보면 '인공지능규제안'의 효력 발효까지는 최소 2년 이상의 기간이 필요할 것으로 예상된다.

그동안 세계적으로 공공과 민간에서 180여개의 인공지능원칙이 제안되었지만, 강제력을 가진 규범이 존재하지 않아 인공지능 알고리즘의 불투명성과 불공정성으로 인한 개인의 권리 침해 위험은 계속 증대되어 왔다. 이러한 상황에서 법적 강제력을 가진 EU의 '인공지능규제안'이 발효되면 글로벌 시장에서 GDPR에 버금가거나 그보다 더 큰 경제, 사회적 영향을 미칠 것으로 평가된다. 흔히 '부뤼셀 효과(Brussel Effect)'로 불리는 EU의 규제가 세계의 규제로 자리 잡는 현상이 '인공지능규제안'의 집행에도 나타날 것으로 예측된다.

EU의 '인공지능규제안'은 위험기반접근(Risk-based approach)을 통해 인공지능시스템을 금지(Unacceptable Risk), 고위험(High Risk), 한정적 위험(Limted Risk), 최소 위험(Minimal Risk)의 4단계로 분류하고, 단계별 의무를 부과하고 있다. 인간의 자유의지에 영향을 미쳐 행동을 조작하는 인공지능, 정부의 사회평가(Social Scoring)시스템, 공개된 공간에서 법 집행을 목적으로 하는 안면인식 등 실시간 원격 생체 인식시스템은 사용이 원칙적으로 금지된다. 교통 등 주요 기반시설에 이용되는 인공지능을 포함한 부속서에 열거된 시민의 안전이나 기본권에 영향을 미치는 고위험 인공지능시스템은 적합성 평가를 통해 EU의 CE(European Conformity) 마크를 획득해야 하고, 높은 수준의 데이터셋 관리 등의 의무를 부과하고 있다. 챗봇 등 제한된 위험이 있는 인공지능시스템은 이용자가 기계와 상호작용하고 있음을 알 수 있도록 투명성의무가 부과되고, 스팸 필터 등 시민의 권리, 안전에 영향이 없는 기타 인공지능시스템에는 법적의무가 면제된다.

이번 규제안은 GDPR와 유사한 형태의 적용범위와 더 강화된 벌칙규정을 도입해서 EU에서 또는 EU시민들에게 인공지능시스템을 공급하거나 구매해서 이용하려는 역외 국가, 기업, 단체들도 적용을 받도록 입안되었다. 금지된 인공지능 사용 및 고위험 인공지능 관련 의무 미 준수 시에는 3000만유로 또는 연간 글로벌 총매출액의 6% 중 더 많은 쪽의 벌금이 부과 되도록 되어 있고, 그 외의 규정 미준시 시에는 2000만유로 또는 연간 글로벌 총매출액의 4% 중 더 많은 쪽 벌금이 부과되도록 되어 있다.

많은 전문가들이 EU의 위험기반접근 방식에 동의하면서 강력한 처벌규정을 통한 집행력 확보 의지를 높게 평가하고 있지만, 한편에서는 공개된 공간에서의 실시간 생체인식시스템 활용에 대한 광범위한 예외규정에 우려를 표시하는 목소리도 나오고 있다.

이번 규제안이 유럽의회와 회원국에서 통과되면 인공지능 기술을 개발하는 글로발 기업들뿐 아니라 인공지능을 활용하여 서비스를 제공하는 정부, 금융 기업, 교육 기관 등에도 막대한 영향을 미칠 것으로 예상된다.

인공지능이 우리 삶에 미치는 광범위한 영향을 고려할 때 우리 정부도 EU의 '인공지능규제안'이 지향하고 있는 국민의 안전과 기본권 보장 그리고 기업의 인공지능 투자 및 혁신 강화를 위한 법적 체계 정비를 서둘러야 하겠다. 더불어, EU의 '인공지능규제안'이 우리 기업에 미치는 영향을 면밀히 분석하고, 기업과 함께 선제적으로 대응방안을 마련해 나가야 할 것이다.

민원기 한국뉴욕주립대 총장 wonki.min@sunykorea.ac.kr