“사람 개입 없이 해킹”…AI 사이버 공격, 자율형 다중 에이전트 단계 진입

구글·맨디언트 보고서

자율형 다중 AI 에이전트를 활용한 사이버 공격 과정. 공격자가 목표를 설정하면 중앙의 오케스트레이션 에이전트가 여러 AI 에이전트를 조율해 네트워크 정찰, 초기 침투, 권한 상승, 내부 이동 등 공격 단계를 자율적으로 수행한다. (자료=구글 위협 인텔리전스 그룹)
자율형 다중 AI 에이전트를 활용한 사이버 공격 과정. 공격자가 목표를 설정하면 중앙의 오케스트레이션 에이전트가 여러 AI 에이전트를 조율해 네트워크 정찰, 초기 침투, 권한 상승, 내부 이동 등 공격 단계를 자율적으로 수행한다. (자료=구글 위협 인텔리전스 그룹)

인공지능(AI)을 활용한 사이버 공격이 사람의 개입 없이 여러 AI 에이전트가 공격을 수행하는 단계로 진입했다. 공격자가 목표를 설정하면 AI 에이전트가 취약점 탐색부터 공격 코드 생성, 실행까지 자동으로 수행하는 방식이다. 공격 속도와 규모가 확대되면서 기존 보안 대응체계에도 새로운 과제가 떠올랐다.

구글 위협 인텔리전스 그룹(GTIG)과 맨디언트는 16일(현지시간) 발표한 'AI 위협 추적 보고서'에서 공격자들이 자율형 다중 에이전트 프레임워크를 실제 사이버 공격에 활용하고 있다고 밝혔다.

공격자들은 △아르텍스(ARTEX) △케언(CAIRN) △펜트AGI(PentAGI) △사이버스트라이크AI(CyberStrikeAI) 등 오픈소스 기반 공격 도구를 활용해 침투 과정을 자동화했다. 여러 AI 에이전트가 역할을 분담해 취약점을 탐색하고 공격 코드를 생성하며, 실행 결과에 따라 공격 전략을 수정하는 방식이다.

GTIG는 미국 항공우주 분야를 포함한 조직을 겨냥한 침해 활동에서 케언 활용 사례를 확인했다. 지난 8월 말부터 10월 초까지는 펜트AGI 기반 공격 플랫폼으로 아시아 지역 여러 조직을 정찰하고 취약점을 검사한 사례도 포착했다.

특히 사람의 개입 없이 취약점을 발견하고 공격하는 시스템도 처음 확인했다. '익스플로잇_에이전트(exploit_agent)'라는 프레임워크는 보안 패치 전후의 소스코드를 자동 비교해 취약점을 찾아내고 공격 코드를 작성·실행한다. 조사 과정에서는 프랑스 언론·엔터테인먼트·교육 분야 웹사이트를 겨냥한 공격 정황도 발견됐다.

AI는 취약점이 공개된 이후 실제 공격에 악용되기까지 걸리는 시간도 단축하고 있다. 기존에는 공격자가 취약점을 분석하고 공격 코드를 개발해야 했지만, AI 에이전트는 관련 과정을 자동화해 공격 준비 시간을 줄일 수 있다.

다만 자율형 공격 도구는 아직 초기 단계다. 자동 실행 과정에서 식별 가능한 통신과 코드 흔적을 남겨 탐지될 가능성도 있다.

GTIG는 AI 공격 도구의 성능이 향상될수록 인간의 개입이 줄고 공격의 은밀성과 정교함은 높아질 것으로 전망했다. 공격의 기본 수법은 달라지지 않았지만, 기존 취약점을 악용하는 속도와 규모가 새로운 보안 위협으로 부상했다는 분석이다.

박진형 기자 jin@etnews.com

  • ET Events