인공지능(AI)이 사이버 공격 등 사고를 저지를 수 있는 시대가 열리면서 보안도 AI로 대응해야 하는 국면에 들어섰다. 기업의 과제는 규제 준수를 넘어 AI 통제로 옮겨갔고, 공격·방어의 자동화 수준은 국가 AI 경쟁력까지 좌우할 핵심 변수로 떠올랐다.
16일 정보통신기획평가원(IITP)과 전자신문이 서울 용산구 서울드래곤시티 호텔에서 공동 주최한 'IT 메가비전 X IITP 테크&퓨처 인사이트 콘서트 2026'에 참석한 전문가들은 AI 에이전트 확산으로 기업 보안의 고민이 규제에서 실제 사고 대응으로 빠르게 옮겨가고 있다고 진단했다.
한동훈 LG CNS 보안 총괄 마이스터는 “6개월 전만 해도 AI 리스크가 실제로 일어날 수 있을지 물음표가 있었지만 이제는 현실이 됐다”며 “기업은 AI를 도입하면서 동시에 어떻게 안전하게 사용할지를 고민하고 있다”고 말했다.
최근 AI 에이전트가 PC와 시스템, 업무 도구를 직접 제어하면서 기존보다 훨씬 넓은 범위의 보안 리스크가 발생하고 있다. 한 마이스터는 AI 에이전트가 인간 개입 없이 협업해 시스템을 침해한 사례를 거론하며 위험의 성격이 달라졌다고 강조했다. 완벽한 사전 차단에만 초점을 맞추기보다 사고 이후 빠르게 회복하는 '복원력(Resilience)'까지 함께 고려해야 한다고 당부했다.
대응의 출발점으로는 AI 서비스별 위험평가를 꼽았다. 실제 위협을 식별한 뒤 시스템 프롬프트와 가드레일, AI 레드팀), 모니터링, 기존 보안 통제를 결합한 다단계 방어가 필요하다는 설명이다.
AI를 활용한 공격을 AI로 방어하는 것도 과제다. 김태수 마이크로소프트(MS) 부사장은 AI 기반 취약점 탐지·수정 시스템 'MDASH'를 소개했다. AI 사이버 챌린지(AIxCC)에서 얻은 경험을 토대로 개발한 시스템이다. 하나의 모델에 의존하지 않고 여러 AI 모델과 100개 이상의 전문 에이전트를 활용해 취약점 분석을 자동화했다.
MDASH는 MS 윈도 보안 업무에 실제로 적용됐다. 최근 4개월간 MDASH가 윈도 취약점 88개를 찾아냈으며 이 가운데 24개가 원격코드실행(RCE) 취약점으로 확인됐다. 김 부사장은 “5년 뒤를 예상했던 AI 기반 버그 탐지·수정이 불과 6개월 만에 현실이 됐다”고 말했다.
이상근 고려대 정보보호대학원 교수는 AI 보안을 국가 경쟁력의 문제로 확장했다. 이 교수는 “공격이 이미 '기계 속도'로 움직이면서 사람이 개입할 수 있는 시간이 줄고 있다”며 “실시간 자율 대응 체계로 전환해야 한다”고 제언했다. 다만 AI를 방어 수단으로 활용하는 것만으로는 부족하다고 봤다. AI 자체를 보호하고, AI의 권한과 행동을 통제하는 체계까지 함께 갖춰야 한다는 것이다.
그는 이를 △보안을 위한 AI △AI를 위한 보안 △AI 거버넌스로 구분하고 세 축을 결합한 'K-AI 보안'을 제시했다.
박진형 기자 jin@etnews.com
