최근 국내 금융권 공격에 악용된 것으로 알려진 '아르텍스(ARTEX)'뿐 아니라 다양한 침투테스트 인공지능(AI)이 누구나 접할 수 있는 오픈소스로 공개된 것으로 나타났다. 초급자라도 소스코드를 수정하면 실제 공격에 활용할 수 있어 보안 위협이 커졌다는 평가다. AI 기반 공격을 전제로 한 취약점 진단이 시급하다.
6일 업계에 따르면 세계 최대 소프트웨어 개발 플랫폼 '깃허브'에는 지난달 바이두 보안대응센터(BSRC) '에이전트+' 공방능력 대회에서 아르텍스와 경쟁한 '포전(Pozhen) 에이전트', 'BLHX'도 오픈소스로 공개돼 있는 것으로 나타났다.
이외에도 취약점 탐색과 공격 검증을 자동화하는 '스트릭스(Strix)', 여러 보안도구를 AI가 조합해 침투테스트를 수행하는 '펜타지(PentAGI)', 거대언어모델(LLM) 기반 침투테스트를 지원하는 '펜테스트GPT' 등도 공개돼 개발자의 주목을 받고 있다.
침투테스트 AI의 본래 목적은 방어다. 사람이 일일이 시스템을 점검하는 대신 AI가 취약점을 찾고 공격 가능성을 시험해 보안 수준을 높이는 데 활용된다.
문제는 오픈소스로 공개된 이후다. 전체 소스코드를 내려받아 악의적으로 수정하는 과정에서 개발자가 넣어둔 안전장치를 제거하거나 기능을 바꿀 수 있다. 과거에는 상당한 전문지식이 필요했던 침투 과정 일부를 AI가 대신하면서 해킹의 진입장벽 자체가 낮아졌다.
실제 오픈소스가 악용된 사례도 보고되고 있다. 시스코 사이버위협 인텔리전스 조직(탈로스)은 지난 8월 중국어권 해킹그룹 'UAT-10147'이 팬테스트GPT를 비롯한 복수의 오픈소스 공격·침투 도구를 실제 공격에 활용한 사례를 밝혔다. 공격자는 웹서버를 대상으로 취약점을 찾고 공격을 검증하는 과정에 AI 도구를 활용했다.
AI 침투도구의 오픈소스 공개 자체를 막기는 어렵다. 보안 연구자들도 같은 도구를 활용해 취약점을 찾고 방어 기술을 개선하기 때문이다.
전문가들은 최근 보고되는 AI 기반 공격 수법 상당수가 기존 취약점 탐색과 자동화 도구 활용 등 중·하급 수준의 해킹 기술을 조합한 형태라고 평가한다. 아르텍스 AI를 이용한 국내 금융권 공격 역시 하등급 수준이라는 게 전문가들 분석이다.
이 때문에 이번 금융권 공격 수준의 AI 공격에 대해서는 △기본적인 취약점 관리 △신속한 패치 △접근통제 강화만으로도 상당 부분 예방할 수 있다고 조언한다.
중등급 공격 역시 공격자가 AI를 쓰더라도 침투에 더 많은 시간과 비용이 들도록 방어체계를 강화하는 형태로 대비해야 한다.
박찬암 스틸리언 대표는 “방어자들도 공개된 오픈소스 침투테스트 AI를 활용해 자체 취약점 진단을 수행해야 할 것”며 “이 과정에서 발견된 취약점은 즉각 패치하고 필요한 보안 솔루션과 전문 인력 채용 등에 대한 투자도 적극 이뤄져야 한다”고 말했다.
박진형 기자 jin@etnews.com
