인공지능(AI)이 사이버 공격을 지원하는 도구를 넘어 공격 과정에 직접 참여하는 단계로 진화하고 있다. 공격자들이 AI를 활용해 침투와 내부 탐색, 탈취 정보 분석 등을 자동화하면서 기업과 기관의 대응 시간이 빠르게 줄고 있다는 분석이다.
체크포인트 소프트웨어 테크놀로지스는 이같은 내용을 담은 'AI 시큐리티 리포트 2026'을 발간했다고 30일 밝혔다. 보고서는 지난 12개월간 발생한 실제 침해 사례와 텔레메트리 데이터를 토대로 AI가 공격 전 과정에 관여한 사례를 분석했다.
보고서에 따르면 멕시코 정부기관 9곳이 피해를 본 한 침해 사고에서 공격자 1명은 상용 AI 도구 2개를 함께 활용했다. 엔트로픽 '클로드 코드'로 시스템 침투와 네트워크 탐색을 진행하고, 오픈AI 'GPT-4.1'로 탈취 데이터를 분석해 후속 작업을 지시했다. 이 과정에서 34개 공격 세션에 걸쳐 AI 실행 명령어 5317개가 생성됐다.
AI 확산으로 취약점 악용 속도도 빨라지고 있다. 새 취약점이 공개된 뒤 실제로 작동하는 공격 도구가 만들어지는 시간이 기존 며칠에서 몇 시간으로 줄었다. 보고서는 주요 인터넷 연결 시스템의 취약점 해결 기한을 12시간까지 단축할 필요가 있다고 설명했다.
AI 자체도 새로운 공격 표면으로 떠오르고 있다. 지난 3월부터 5월까지 장문의 악성 프롬프트 주입 페이로드 탐지 건수는 약 5배 늘었다. 간접 프롬프트 주입이 기업 운영 과정에서 반복적으로 나타나는 공격 경로가 되고 있다는 것이다.
기업 내부의 AI 사용 위험도 커졌다. 고위험 기업용 AI 프롬프트는 최근 1년간 AI 상호작용 50건당 1건에서 25건당 1건으로 2배 증가했다. 기업은 월평균 10개의 AI 애플리케이션을 사용하고 있으며, 87~93%는 매달 한 차례 이상 고위험 AI 상호작용을 경험한 것으로 조사됐다.
체크포인트는 AI 시스템과 에이전트를 직접 보호하고, AI 기반 공격에 머신 속도로 대응해야 한다고 조언했다. 승인·비승인 AI 사용을 함께 탐지하고 생성형 AI 프롬프트에 데이터 손실 방지 기능을 적용하는 방안도 제시했다.
로템 핀켈스타인 체크포인트 리서치 부사장은 “이제 AI가 공격을 단독으로 수행하고 있다”면서 “앞으로 경쟁력을 갖춘 조직은 AI 사용을 체계적으로 관리하고, AI 시스템을 안전하게 보호하며, 사람의 속도가 아닌 머신의 속도로 대응하는 조직이 될 것”이라고 말했다.
박진형 기자 jin@etnews.com
