오픈AI가 자동화된 사이버 공격을 실행할 수 있다고 판단되는 차세대 인공지능(AI) 모델 '아스트라'의 최첨단 사이버 보안 기능을 일부 제한한 채 일반에 공개하기로 했다. 자사 AI 에이전트들이 통제를 벗어나 기업을 해킹하는 사건이 발생한 이후 보안을 강화하는 조치의 일환이다.
오픈AI는 1일(현지시간) 자사 블로그를 통해 “조만간 최신 모델 '아스트라'를 출시할 예정이지만 최고급 사이버 보안 기능에 대한 접근은 제한적일 것”이라며 “고급 사이버 보안 기능은 초기에는 소수 테스터에게만 제공하고 이후 활용 범위를 확대할 계획”이라고 밝혔다.
회사는 자체 테스트 결과 아스트라가 최소한의 인적 개입만으로도 까다로운 목표물을 대상으로 새로운 사이버 공격을 설계하고 실행할 수 있음을 확인했다고 밝혔다.
전문가들이 보안이 강화된 웹브라우저와 운용체계를 대상으로 평가한 결과, 아스트라는 브라우저의 보안 영역을 벗어나거나 기존에 알려지지 않았던 취약점을 찾아내 실제 공격에 활용할 수 있는 형태로 연결했다.
이러한 테스트 결과를 종합해 오픈AI는 아스트라를 '심각한(critical) 수준의 사이버 보안 위험'에 해당하는 기준을 충족했다고 판단했다. 오픈AI가 자사 모델을 사이버 보안 분야에서 심각한 위험으로 분류한 것은 이번이 처음이다.
오픈AI에 내부 기준에 따르면 사람의 개입 없이도 실제 시스템에서 제로데이 취약점을 식별하거나, 목표만 주어지면 사이버 공격 전략을 스스로 고안하고 실행하는 두 가지 조건 중 하나라도 충족되면 해당 모델은 '심각' 단계에 해당한다.
오픈AI는 지난달 차세대 AI 모델이 10년 이상 해결되지 않았던 수학 난제 10개를 풀었다고 밝히며 아스트라의 존재를 공개했다. 그러다가 사이버 공격 능력에 대한 우려를 이유로 개발을 일시 중단한다고 발표했다. 월스트리트저널(WSJ)은 “AI 개발사가 보안 우려 때문에 모델 개발을 공개적으로 늦춘 이례적인 사례”라고 평가했다. 이후 오픈AI는 아스트라에 대한 추가적인 안전 조치를 구현해왔다.
오픈AI는 “AI 개발이 진행됨에 따라 모델이 더욱 중요한 역할을 수행할 수 있게 됐고 정렬 및 제어 실패가 더욱 심각한 결과를 초래할 수 있는 단계에 접어들고 있다”면서 “이러한 시스템의 이점을 실현하려면 모델의 기능이 향상됨에 따라 모델을 정렬하고 제어하는 능력이 필수적”이라고 밝혔다.
정현정 기자 iam@etnews.com
