로블록스가 인공지능(AI)을 활용한 콘텐츠 관리 시스템을 도입하며 플랫폼 안전 강화에 나섰다. 최근 확률형 아이템 '깜깜이 운영' 논란이 불거진 가운데 향후 제도 정비와 맞물린 기술적 대응 방향에도 관심이 쏠린다.
30일 로블록스는 '실시간 멀티모달 콘텐츠 관리' 시스템을 도입한다고 밝혔다. 이용자의 시점에서 3D 오브젝트, 아바타, 텍스트를 동시에 분석해 유해 콘텐츠를 실시간으로 차단하는 것이 핵심이다. 기존에는 개별 요소 단위로만 검증이 가능했지만, 이제는 게임 플레이 상황 전체를 종합적으로 판단할 수 있게 됐다.
로블록스 측은 해당 시스템 도입 이후 하루 평균 수천 개의 규정 위반 서버를 차단하고 있으며, 이용자가 유해 콘텐츠를 접하기 전에 선제적으로 대응할 수 있다고 설명했다. 특정 서버만 정밀 차단하는 방식으로 정상 이용자 피해를 최소화하는 점도 특징이다.
이번 조치는 로블록스가 플랫폼 내 콘텐츠 관리 체계를 전반적으로 고도화하려는 움직임으로 풀이된다. 앞서 본지 보도를 통해 로블록스 내 다수 게임이 확률형 아이템 정보를 공개하지 않는 '깜깜이 뽑기' 구조를 운영하고 있는 실태가 드러나며 논란이 확산됐다. 이후 한국게임이용자협회는 등급분류 체계 전면 개선과 정부의 적극적인 행정 조치를 촉구한 바 있다.
업계에서는 로블록스가 AI 기반 모더레이션 역량을 강화한 만큼 향후 규제 환경 변화에 따라 확률형 아이템 정보 공개나 개별 콘텐츠 관리 체계에도 기술적 대응이 이어질 가능성에 주목하고 있다. 특히 사용자 생성 콘텐츠(UGC) 기반 플랫폼 특성상, 제도와 기술이 결합된 관리 방식이 실제로 구현될 수 있을지가 관건으로 꼽힌다.
게임업계 관계자는 “결국 로블록스의 이번 AI 시스템 도입은 플랫폼 안전 관리 역량을 한 단계 끌어올리는 조치로 보인다”며 “향후 관련 제도 정비와 맞물려 이용자 보호 체계를 어떻게 개선해 나갈지가 중요하다”고 말했다.
박정은 기자 jepark@etnews.com
