미국 국방부가 군사 분야에서 인공지능(AI) 기술을 사용할 때 유의 사항을 정리한 윤리규범을 채택했다.
AP 등 외신에 따르면 마크 에스퍼 국방장관은 국방혁신위원회가 권고한 윤리규범을 승인했다. 앞서 에릭 슈밋 전 구글 회장 등 민간인 위주로 구성된 국방혁신위는 각계 의견을 수렴해 지난 해 10월 권고안을 마련했다.
윤리규범은 국방부 요원이 AI 능력을 개발·배치·활용할 때 적절한 수준의 판단과 주의를 하도록 해 책임감을 가져야 한다는 내용이 포함됐다.
또 국방부가 AI 능력의 의도하지 않은 편견을 최소화하는 데 신중한 조처를 하도록 하는 공정함을 주문하고 관련 요원이 기술과 개발 과정, 운영 방법을 적절히 이해할 수 있게 AI 능력을 개발·배치해 추적 가능성을 갖추도록 했다.
윤리규범은 AI 능력 용도를 명확히 한정하는 한편 안전, 보안, 효율성이 한정된 용도에서 시험되고 보장되도록 하는 신뢰성을 주문했다.
또 의도하지 않은 결과를 탐지하고 피할 수 있는 능력과 의도치 않은 행동을 하는 시스템을 정지하는 능력을 포함해 AI가 의도한 기능을 수행하도록 설계하는 통제력을 요구했다.
국방부 당국자는 “AI 사용은 새로운 윤리적 모호성과 위험을 야기한다”며 규범 채택 배경을 설명했다.
AI 기술에 집중 투자한 국방부는 2021 회계연도 예산에서도 전투 작전 시 AI 기술 활용에 비중을 두면서 AI 관련 자금 증액을 의회에 요청한 상태다.
최종희기자 choijh@etnews.com
