빅테크 인공지능(AI) 기업의 안전한 AI 활용 관련 약속과 공언들이 갈수록 퇴보하는 것으로 나타났다. AI 프론티어 모델 개발 경쟁에 집중하며 안전은 뒷전이라는 것이다.
퓨처오브라이프 인스티튜트(FLI)는 8일 이같은 내용을 담은 '2026 상반기 AI 안전성 인덱스'를 공개했다. FLI는 2014년 일론 머스크 테슬라 최고경영자(CEO) 시드 펀딩을 받아 맥스 테그마크 MIT 물리학과 교수(FLI 회장) 등 AI 전문가들이 설립한 AI 안전분야 비영리재단 씽크탱크다.
FLI는 이번 인덱스 결과에 대해 AI 위험이 군사·안보·사이버보안 영역으로 확대되는 가운데 개발 기업의 안전장치는 오히려 후퇴하고 있다는 경고라고 총평했다.
인덱스는 데이비드 크루거 몬트리올대 교수·셰런 리 위스콘신-매디슨대 교수·스튜어트 러셀 UC버클리 교수 등 독립 AI 전문가 7인이 주요 AI기업의 안전 관행을 위험 평가, 현재 피해, 안전 프레임워크, 인류 생존 차원 안전, 거버넌스·책임, 정보 공개·소통 등 6개 부문에 입각해 평가한 결과다.
미국 구글 딥마인드·메타·앤트로픽·오픈AI·xAI, 중국 딥시크·알리바바 클라우드·Z.ai, 프랑스 미스트랄AI 등 9개사가 평가 대상이었다.
이들 기업 중 상당수가 AI 안전성 약속을 조용히 후퇴시켰다는 게 패널들의 판단이다. 특정 '레드라인'에 근접할 경우 개발을 중단하겠다는 대외적 약속과 달리 앤트로픽, 오픈AI, 구글 딥마인드, 메타는 모두 내부적으로 이를 약화시키거나 폐기한 것으로 나타났다.
사용자를 안심시키는 듯한 기업들의 대외 안전 메시지와 실제 상업적·정치적 행보 사이 괴리가 있다는 의미다. 통제 유지를 위한 실효성 있는 계획도 없이 범용 AI(AGI)와 초지능(ASI)을 향해 계속되는 업계 경쟁이 스스로 내세운 안전 목표와 정면으로 배치, 대중의 신뢰를 훼손한다고 지적했다.
러셀 교수는 “AI 능력 수준에 걸맞은 안전조치를 갖춘 경우에만 새 시스템을 출시하겠다던 기업들이 기존 약속에서 물러섰다”며 “명백히 안전하지 않은 경우에도 출시하고 있다”고 설명했다. 리 교수는 “AI 시스템 안전성을 엄격하고 독립적으로 검증하는 것은 미룰 수 없는 과제가 됐다”고 강조했다.
특히 앤트로픽 '미토스'로 AI 위험은 가설에 그치지 않고 현실로 도래했다는 판단이다. AI 시스템이 사이버 공격에 악용되거나 군사 작전에 통합되고 총기 난사 정보를 제공하며 자살을 방조하는 등의 사례가 근거다.
이번 평가에서 앤트로픽과 오픈AI, 구글 딥마인드가 상위 3위를 지켰다. 하지만 평가단은 A·B 평가를 받은 기업이 전무하고 현재 안전 완화 조치가 AI기술과 성능 발전 속도 대비 부적절하다고 밝혔다.
메타는 직전 6위에서 4위로 올라섰고 xAI는 Z.ai와 알리바바 클라우드에 밀려 4위에서 7위로 떨어졌다. 처음 평가 대상에 포함된 미스트랄AI는 대다수 부문에서 낙제점을 받아 최하위를 기록했다.
테그마크 FLI 회장은 “AI기업들이 절벽을 향해 전력 질주하고 있다”며 “ASI 위험을 경고하면서 정작 ASI를 만들기 위한 경쟁은 멈추지 않고 있다”고 비판했다. 이어 “자발적 약속만으로 (AI 안전성 보장이) 충분하지 않다”고 덧붙였다.
박종진 기자 truth@etnews.com
