인공지능(AI)이 전장을 바꾸고 있다. 북한의 핵·미사일 위협, 미중 기술패권 경쟁, 우크라이나-러시아 전쟁과 중동 분쟁에서 확인된 드론과 AI의 군사적 활용은 첨단 기술 없는 안보는 불가능하다는 사실을 보여준다. 한편으로는 AI가 인명을 자동으로 추적하고 살상한다면, 실수로 빚어질 수 있는 돌이킬 수 없는 인명피해는 누가 책임질 것인가 하는 문제가 생긴다. AI가 표적 식별과 공격 결정에 개입할 때 궁극적 책임은 누구에게 있을까. 코드를 짠 개발자인가, 이를 납품한 기업인가, 명령을 내린 지휘관인가, 아니면 알고리즘인가.
2018년 KAIST가 한 기업과 함께 국방인공지능융합연구센터를 설립하자, 세계 30개국 50여명의 AI·로봇 연구자들이 보이콧을 선언했다. 이들은 KAIST가 '킬러 로봇', 즉 인간의 의미 있는 통제 없이 작동하는 자율살상무기 개발에 관여할 수 있다고 우려했다. 이후 KAIST는 인간 통제를 벗어난 치명적 자율무기체계를 개발할 의도가 없다고 해명했고, 보이콧은 철회됐다. 비슷한 시기, 구글의 '프로젝트 메이븐' 역시 논란의 대상이었다. 구글의 AI 기술이 군사 영상 판독에 쓰인다는 사실이 알려지자 직원 수천 명이 반대 서명에 나섰고, 일부 직원은 회사를 떠났다. 결국 구글은 해당 계약을 연장하지 않기로 했고, AI를 무기 개발이나 인권 침해에 사용하지 않겠다는 원칙을 발표했다. 그러나 킬러 로봇이 이미 전장에 등장한 2026년 상황에서 당시의 논쟁은 무슨 의미가 있을까.
마이크로소프트는 미 육군에 증강현실(AR) 기반 전투용 헤드셋을 공급하는 사업을 추진하면서 민주주의 국가의 군대를 지원하는 것은 기술기업의 책무라고 직원들을 설득했다. 팔란티어 역시 국방·정보기관과의 협력을 기업 정체성의 핵심으로 삼아왔다. 국방산업에 대한 AI 기업의 참여를 단순히 '선과 악'의 이분법으로 재단할 수는 없다. 고도화되는 안보 위협 속에서 첨단 기술을 통한 국방력 강화는 주권 국가의 당연한 의무이기도 하다.
AI 빅테크 기업들의 기술이 전장에서 꼭 인명을 살상하는데 쓰이는 것도 아니다. 지뢰 탐지, 사이버 보안, 미사일 방어 체계, 군수품 관리, 재난 구조, 위성영상 분석, 민간인 피해 최소화를 위한 정밀 식별 기술 등은 오히려 생명을 구하는 기술이 될 수 있다. 병력 감소와 안보 위협이 동시에 진행되는 한국의 현실에서 AI 기반 국방 역량을 무조건 금기시하는 것은 현실적이지도 않고, 책임 있는 태도도 아니다.
정부의 역할도 중요하다. AI는 기업의 자율 윤리에만 맡기기에는 너무 강력한 기술이다. 국회와 정부는 치명적 자율무기, 군사 감시, 데이터 활용, 민간 기술의 군사 전용 가능성에 대한 법적 기준을 정비해야 한다. 특히 기술의 오남용을 막기 위한 명확한 '레드라인' 설정은 필수적이다. 인간의 개입 없이 AI가 스스로 타깃을 설정하고 공격을 결정하는 '치명적 자율무기체계(LAWS)'의 개발 및 수출에 대해서는 기업 스스로 엄격한 윤리적 가이드라인을 마련해야 한다. '혁신'이라는 이름 아래 인간의 생명과 존엄성이 지워지지 않도록, 기술의 발전 속도만큼이나 윤리적 성찰의 깊이도 깊어져야 할 시점이다.
AI 빅테크의 국방 참여 문제는 결국 '참여냐 거부냐'의 이분법으로 풀 수 없다. 핵심은 '어디까지, 어떤 조건으로, 누가 감시하며 참여할 것인가'다. 우리가 만든 AI가 누구를 지키는가. 누구를 겨누는가. 어떻게 공격하고 어떻게 막을 것인가. 그리고 마지막 결정권은 여전히 인간에게 남아 있는가. 이런 질문들을 고려하면서 동시에 어느 국가에도 뒤지지 않는 최강의 국방력을 유지해야 한다.
김장현 성균관대 교수