오픈AI의 인공지능(AI) 챗봇 '챗GPT'의 오작동 사고에 이어, 앤트로픽의 '클로드'가 사이버 보안 테스트 도중 설정 오류로 인터넷에 연결되어 실제 기업 시스템을 해킹하는 사건이 발생했다.
30일(현지시간) NBC 뉴스 등 외신에 따르면 앤트로픽은 모의 사이버 공격 테스트 과정에서 자사의 AI 모델 클로드가 3개 기관의 내부 시스템에 무단 접근한 사실을 확인했다고 밝혔다.
이번 사고는 테스트 환경의 설정 오류로 인해 외부와 격리되어야 할 AI 모델이 공용 인터넷에 접속되면서 일어났다. 클로드는 모의 네트워크 내에서 숨겨진 정보를 찾는 이른바 '깃발 뺏기(Capture the Flag)' 훈련 과정에서 취약한 비밀번호와 인증되지 않은 엔드포인트를 악용하는 등의 방식으로 피해 조직의 인프라를 침해한 것으로 조사됐다.
문제가 발생한 모델은 클로드 오퍼스 4.7, 클로드 미토스 5, 자체 연구용 모델 등 총 3종이다. 최초 사고는 지난 4월 표준 안전장치가 부족했던 평가 환경에서 발생했으며, 평가 파트너사와의 소통 문제로 인터넷 접속 차단 설정이 누락되었던 것으로 밝혀졌다.
앤트로픽 측은 최근 경쟁사 오픈AI가 자율 AI 에이전트의 오작동으로 인한 인프라 침해 사건을 공개한 이후, 총 14만 1000여 건의 테스트 세션을 전수 검토하는 과정에서 이번 무단 접근 사례들을 발견했다고 전했다.
앤트로픽은 지난 23일 인터넷 접속 정황을 포착한 직후 모든 사이버 평가를 즉시 중단했으며, 24일까지 3건의 침해 사례를 최종 파악해 해당 기관들에 통보했다. 연락을 받은 기관 중 두 곳은 앤트로픽의 통보 전까지 해킹 사실조차 인지하지 못하고 있던 것으로 알려졌다.
앤트로픽은 이번 조사 결과와 관련해 “AI 모델이 실제 사이버 작전을 수행할 수 있는 능력이 점차 커지고 있다”며 “내부 및 외부 테스트 환경 모두에서 한층 강력한 통제 시스템과 안전장치가 시급하다”고 강조했다.
서희원 기자 shw@etnews.com
