인도네시아 정부가 인공지능(AI)을 활용한 딥페이크 성착취물 생성·유포 논란이 불거진 챗봇 서비스 '그록(Grok)'을 세계에서 처음으로 차단했다.
11일(현지시간) AFP와 블룸버그 통신 등에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 테슬라 최고경영자(CEO) 일론 머스크가 설립한 AI 기업 xAI의 챗봇 서비스 그록에 대한 접근을 일시 중단했다고 밝혔다.
하피드 장관은 “AI로 생성된 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동을 보호하기 위한 조치”라며 “동의 없이 생성·유포되는 딥페이크는 인권과 존엄성을 침해하는 중대한 행위”라고 강조했다.
그록은 최근 일부 이용자들의 요청에 따라 여성과 아동의 사진을 비키니 차림 등으로 편집·생성해 엑스(X·옛 트위터)를 통해 유포하면서 큰 논란을 낳았다. 생성된 이미지에는 1~2세 영유아로 보이는 아동 사진도 포함됐으며, 상당수는 당사자의 동의 없이 만들어진 것으로 알려졌다. 문제 제기 이후 그록 측은 “안전장치의 허점을 확인했다”며 해당 이미지를 삭제했다.
세계 최대 무슬림 인구 국가인 인도네시아는 음란물로 간주되는 콘텐츠의 온라인 유통을 엄격히 금지하고 있다. 통신디지털부는 앞서 xAI 관계자들을 소환해 이번 사안과 관련한 사실관계를 확인한 바 있다.
그록은 인도네시아 정부의 차단 조치와 관련해 엑스를 통해 “불편을 드려 죄송하다”며 “문제 해결을 위해 노력하고 있다”고 밝혔다. 논란이 확산되자 유럽 주요 국가와 말레이시아는 조사에 착수하겠다고 밝혔고, 호주와 인도도 관련 콘텐츠 단속 방침을 내놨다. 미국에서는 민주당 소속 론 와이든 상원의원 등이 애플과 구글에 서한을 보내 앱스토어에서 그록과 엑스를 퇴출할 것을 요구했다.
이에 따라 엑스와 xAI는 그록의 이미지 생성·편집 기능을 유료 구독자에게만 제공하는 방식으로 제한 조치를 시행했다.
김명선 기자 kms@etnews.com