영국이 지난 11일 폐막한 파리 인공지능(AI) 행동 정상회의 공동 선언문에 서명을 거부한 이유가 국가안보 관련 충분한 논의가 이뤄지지 않았다는 판단 때문인 것으로 확인됐다.
김명주 AI안전연구소장은 20일 한국데이터법정책학회가 주최한 '제14회 AI윤리법제포럼 세미나'에서 “영국과 미국은 AI 행동 정상회의 주도권을 놓고 초기부터 경쟁했다”며 정상회의 기간 영국 정부 관계자의 말을 인용, 이같이 밝혔다.
파리 AI 정상회의 후 우리나라와 프랑스·인도·독일 등 58개국, 유럽연합(EU)과 아프리카연합집행위원회는 '사람과 지구를 위한 지속 가능하고 포용적인 AI에 관한 선언문'을 채택했다.
하지만 정상회의 참석 국가 중 미국과 영국 단 두 국가가 서명을 거부, 영국 정부가 J.D. 밴스 미국 부통령이 강조한 혁신·진흥 등 미국의 방향성에 동조한 것이라는 관측이 나왔다. 하지만 영국이 정상회의에 참석한 그 어느 나라보다 AI 안전성을 가장 중요한 이슈로 보고 정책·제도를 운영할 것으로 예상된다.
실제 영국은 세계 최초로 AI안전연구소를 설립, 안전과 신뢰에 대한 국제사회 논의를 이끌어왔다. 올해 정상회의 이후에는 AI안전연구소 명칭을 'AI보안연구소'로 변경, 사이버 시큐리티를 포함해 국가안보 관점에서 AI 안전성 이슈를 연구하기로 했다. AI를 악용한 국가 단위 범죄나 이슈도 담당할 예정이다.
김 소장은 “AI 안전과 관련해 윤리보다 위험이 큰 건 무기 제작이나 사이버 공격 등에 노출될 가능성”이라며 “정보에 대한 접근 제한을 잘못 설정하게 되면 AI를 악용할 가능성이 충분하기 때문에 영국은 이와 관련된 논의가 추가적으로 필요하다고 판단한 것”이라고 말했다.
이번 AI 정상회의를 끝으로 세계적인 AI 행동 패러다임 어젠다가 안전성과 신뢰성 등 규제 중심에서 진흥 중심으로 전환됐다는 평가가 나왔지만, 영국 등의 주도로 안전성에 대한 세계적인 논의는 지속될 것으로 전망된다.
김 소장은 “2023년 1월에 구글이 챗GPT보다 강력한 AI 플랫폼을 개발했지만 잠재적인 사회 윤리적 위험을 통제할 수 있는 방법을 찾기 전까지 출시할 수 없다고 발표, 책임감 있는 AI에 대한 인식이 생기고 논의가 시작됐다”며 “AI 안전성·신뢰성 관련 세계적인 규범이 만들어지기 전인 데다 국가별 특이점도 있어 관련 논의를 지속해야 한다”고 강조했다.
이어 “AI가 무엇을 학습했는지 아무도 몰라서 발생하는 잠재적 위험에 대한 파악이 필요하고, AI가 사회에 미치는 영향 등을 분석한 'AI 위험 지도'를 만들어야 한다”고 강조했다. AI 학습에 대한 투명성을 확보하고, 정치·사회·문화·노동·환경 등 AI 기술과 서비스·활용에 따른 부정적 영향을 지도처럼 체계적으로 정리할 필요가 있다는 의미다.
또 우리나라는 AI기본법 제정으로 AI 신뢰성과 안전성 논의를 위한 법제 근거가 마련됐다고 평가했다. 특히 AI기본법상 프론티어 AI와 첨단 AI 안전성, 고영향 AI와 생성형 AI 투명성, 고영향 AI 안전성·신뢰성을 확보할 수 있는 방안에 대한 충분한 논의가 필요하다고 강조했다.
박종진 기자 truth@etnews.com
