최근 인공지능(AI)이 군사적 의사결정과 무기체계 운용에 빠르게 적용되면서 전쟁의 양상이 급격히 변화하는 가운데, 군사 분야 AI 활용 현황과 잠재적 위험 요소, 인간의 실질적인 통제 방안 등을 논의하는 자리가 마련된다.
한국과학기술한림원은 오는 23일 서울 중구 프레스센터에서 '전쟁과 AI: 인간 통제는 가능한가?'를 주제로 제254회 한림원탁토론회를 개최한다고 22일 밝혔다.
주제 발표에는 서울대 과학학과 홍성욱 교수와 천현득 교수가 참여한다. 홍 교수는 'AI와 무기의 결합: 전쟁 AI의 과거, 현재, 미래'를 주제로, 이란-미국 전쟁을 기점으로 확인된 AI 기반 군사 작전의 위험성을 분석하고, AI의 군사적 활용 확대에 따라 필요한 제도적·기술적 해법과 과제를 제안한다.
천 교수는 '전쟁에서 AI 활용과 윤리적 쟁점들: 의미 있는 인간 통제 개념을 중심으로'를 주제로 최근 10년간 비정부기구(NGO), UN, 학계 등에서 제기된 군사 분야 AI 활용 우려에 관한 국제 동향을 소개한다. 이에 따라 화두로 떠오른 '의미 있는 인간 통제(MHC)' 개념과 군사 AI의 윤리적 쟁점 등을 설명한다.
이어 종합 토론에서는 곽재원 아주경제 논설위원장을 좌장으로, 김상배 서울대 정치외교학부 교수, 김상수 육군사관학교 국어철학과 교수, 박경렬 KAIST 과학기술정책대학원 교수, 박상철 서울대 법학전문대학원 교수, 김명주 인공지능안전연구소장 등이 참여한다. 국제정치와 윤리, 법·제도, 기술 안전성 등 전쟁 AI를 둘러싼 다양한 쟁점을 논의한다.
정진호 과기한림원장은 “AI의 군사적 활용은 우리나라만 이행하지 않을 수 없는 안보 딜레마의 영역에 접어들고 있다”면서 “이번 토론회로 전쟁 AI 시대에 꼭 필요한 인간 통제와 책임의 기본 원칙을 제시하고, 기술적 해결책을 모색하겠다”고 말했다.
송윤섭 기자 sys@etnews.com
