인공지능(AI)이 스마트가전과 사물인터넷(IoT) 기기를 해킹해 개인정보뿐 아니라 연산자원까지 탈취하는 새로운 사이버 위협이 부상하고 있다. 확보한 기기의 연산 능력을 결합해 AI 모델을 구동하고, 다른 기기로 스스로 복제·확산하는 공격이 현실화할 가능성이 제기된 것이다.
앤트로픽 보안 연구조직인 프런티어 레드팀은 이달 초 데이터센터 없이 AI 모델이 자율 복제할 수 있는지를 평가한 연구 결과를 공개했다. 저사양 IoT 기기의 연산자원 활용, AI의 환경 적응, 자율 확산 가능성을 실험한 결과다.
기존 IoT 봇넷이 감염 기기를 원격 조종해 디도스(DDoS) 공격 등에 동원했다면, 앤트로픽은 자율 복제형 AI의 경우 장악한 기기의 연산자원으로 AI 모델 자체를 구동하고 다른 기기로 확산할 수 있다는 점을 차이점으로 꼽았다.
저가형 스마트기기는 개별 연산 능력에 한계가 있지만, 여러 기기의 자원을 결합하면 대규모 AI 모델도 구동할 수 있는 것으로 나타났다. 앤트로픽은 대당 약 55달러인 안드로이드 TV 박스 15대에 AI 모델을 분산 배치해 260억개 매개변수를 가진 구글 '젬마4'를 실행하는 데 성공했다. 고성능 AI 반도체 없이도 여러 스마트기기의 연산자원을 결합해 AI를 구동할 수 있음을 입증한 것이다.
AI는 새로운 하드웨어와 OS 환경에도 유연히 적응해 자율 확산의 가능성은 보여줬다. 앤트로픽은 AI의 설치 오류와 해결 방법을 후속 AI에 전달한 결과, 중국 AI 모델 '큐원3.5-9B'의 실행 환경 구축 성공률은 초기 45%에서 61~84%로 높아졌다고 설명했다. 시행착오를 공유하면서 적응 능력을 개선한 것이다.
접근 인증 절차를 생략한 가상환경에서 AI 자율 확산 능력도 별도 검증했다. 구글 클라우드의 격리된 가상환경에서 AI가 다른 노드를 탐색하고 모델을 전달해 실행 환경을 구축하는 과정을 시험했다. 중국 AI 모델 'GLM-5.2'는 5차례 실험 중 4차례에서 대상 노드 8개 모두로 확산하는 데 성공했다.
앤트로픽은 기술적 한계도 있다고 설명했다. 저가형 TV 박스 15대를 연결해 AI 모델을 구동하는 데 성공했지만, 연산 속도가 느려 실제 공격에 활용하기에는 제약이 있다는 것이다.
그러나 연구진은 소형 AI 모델의 성능 개선이 지속되면 수개월 내 상용 IoT 기기에서 자율 복제가 가능한 수준에 도달할 수 있다고 전망했다.
앤트로픽은 “경량 AI 에이전트는 인간 공격자보다 세계 IoT 연산자원의 상당 부분을 장악하는 데 훨씬 적극적으로 나설 수 있다”며 “느리게 확산하는 자율 복제형 AI의 등장은 보안이 강화된 기기까지 침투하거나 API 키를 탈취할 수 있는 더욱 공격적이고 빠른 AI의 출현을 알리는 전조”라고 경고했다.
박진형 기자 jin@etnews.com
