영화 '미션 임파서블' 속 인공지능(AI) 적 '엔티티'가 아군의 레이더를 속여 오인 교전을 유도하는 시나리오는 이제 전장의 실존적 위협이다. 실제로 단 1~2%의 이미지 교란만으로도 AI가 탱크를 트럭으로 오인하게 만드는 적대적 공격이 실증된 지금, 보안이 미비한 국방 AI는 언제든 아군을 공격하는 디지털 부메랑이 될 수 있다. 국방 AI 대전환의 성패는 결국 이 양날의 검과 같은 무기를 얼마나 안전하게 통제하고 전략적으로 신뢰할 수 있느냐에 달려 있다.
국방부는 'AI 과학기술 강군 육성'을 위해 전 작전 영역에 AI를 적극 도입 중이며, 올해는 안보 비공개 데이터까지 학습할 수 있는 '국방 데이터 안심구역' 구축을 추진하는 등 혁신을 이어가고 있다. 이러한 혁신을 안정적으로 뒷받침하려면 보안 패러다임의 근본적 전환이 필수적이다. 기존 보안이 성벽을 쌓아 적의 침입과 데이터 유출을 막는 '차단'에 머물렀다면, 국방 AI 보안은 모델 내부의 신뢰성 훼손과 지능 오염까지 전 주기에 걸쳐 실시간으로 관리하는 지능형 면역 체계로 진화해야 한다.
핵심은 성능과 보안의 최적 균형점을 찾는 과학적 접근이다. 보안이 지나치게 강하면 AI의 연산 속도와 정확도가 저하돼 긴박한 작전 효율이 떨어지고, 반대로 성능만 쫓으면 적의 기만전술에 무력화된다. 이를 해결할 글로벌 표준 도구가 바로 미국 국립표준기술연구소(NIST)의 'AI 위험관리체계(AI RMF)'다. NIST AI RMF는 정확도와 같은 성능 지표와 적대적 견고성 등 신뢰성 지표를 동시에 측정해 두 특성 간의 상충 관계를 시각화한다. 이를 통해 지휘관은 감이 아닌 검증된 데이터에 기반해 작전 가용 수준과 위험 수용 범위를 판단하는 고도의 객관적 의사결정이 가능해진다.
우리 군은 이미 'K-RMF'를 통해 국방정보체계의 수명주기 위험관리를 수행하고 있다. 여기에 NIST AI RMF 방법론을 통합한다면 한국군 실정에 맞는 '국방 AI 신뢰성 통합 거버넌스' 구축이 가능하다. 이 체계는 정책 부서가 임무별 보안 수준과 가이드라인을 제시하는 거버넌스를 기점으로, 작전 부서가 전장의 유령 객체 공격 시나리오를 분석하는 맥락 파악 과정으로 이어진다. 이어지는 측정 단계는 본 체계의 정수로, 보안 강도를 단계별로 높여가며 AI의 표적 식별 정확도를 실측함으로써 '보안 수준 향상 시에도 작전 수행이 가능한 신뢰도가 유지되는가'를 숫자로 검증한다. 궁극적으로는 야전 부대가 AI 신뢰도를 실시간 모니터링하며 오작동 징후 포착 시 즉시 경보를 발령하는 관리 체계를 통해, 비로소 기술자와 운용자가 데이터로 합의할 수 있는 '신뢰의 사슬'이 완성되는 것이다.
올해는 국방 AI 보안의 입법 골든타임이다. 최근 발의된 국방인공지능법안이 실질적인 전력 증강으로 이어지려면 세 가지 핵심 요소가 명문화돼야 한다. △NIST AI RMF 기반의 정량적 위험 측정 기준 확립 △K-RMF와 연계된 국방 AI 거버넌스 및 전담 조직 체계 구축 △AI 전력화 이후 성능과 보안을 지속적으로 검증하고 관리할 사후 책임 의무화 등이다.
국방 AI 보안은 혁신을 가로막는 족쇄가 아니라 전력 혁신을 안전하게 가속하는 '가속 페달'이다. 영화 속 주인공은 대역 없는 열연으로 위기를 돌파했지만, 우리 군의 AI 전장은 정교한 '국방 AI RMF'라는 안전벨트를 매고 달려야 한다. 신뢰할 수 있는 AI 강군을 향한 법적·기술적 토대 마련을 위해 민·관·군이 역량을 집중해야 할 때다.
안상현 육군 수도방위사령부 정보체계과장·중령 honorahn@gmail.com