틱톡이 생성형 인공지능(AI)을 활용해 저품질 콘텐츠를 대량으로 게시하는 'AI 스팸 계정'을 집중 단속한다.
틱톡은 AI 스팸 대응 강화·AI 리터러시 증진을 통해 이용자들이 AI 생성 콘텐츠(AIGC)를 보다 안전하고 책임감 있게 소비하고 창작할 수 있도록 지원하는 방안을 확대한다고 14일 밝혔다. AI를 활용한 창의성을 지원하면서도 플랫폼의 신뢰성은 강화한다는 방침이다.
우선 AI를 악용해 대량으로 생성되는 저품질 AI 생성 스팸 콘텐츠에 대한 대응 시스템을 개선한다. 틱톡은 올해 1분기에만 8600만개 이상의 허위 계정을 삭제했다. 향후에는 공공의 신뢰나 안전, 보건에 영향을 미칠 수 있는 정치, 금융, 의료 정보 등 분야에서 AI 생성 스팸 콘텐츠를 대량 게시하는 계정을 효과적으로 식별·조치할 수 있도록 탐지 시스템을 고도화한다. 이번 조치 대상은 사람의 실질적인 참여 없이 저품질 AI 콘텐츠를 대량 생산하는 계정에 한정한다.
AI 리터러시를 강화하기 위해 신규 교육 리소스와 전문가 협력 프로그램을 진행한다. 미디어 리터러시 전문기관인 미국 미디어교육전국연합회(NAMLE), 생성형 AI 전문가 헨리 에이더와 협력, 이용자들이 AI 도구와 AIGC를 안전하고 책임감 있게 활용할 수 있도록 안내하는 가이드를 공동 마련했다. 이용자가 AI 관련 용어를 검색할 때, AIGC를 식별하는 실용적인 방법을 배울 수 있는 새로운 인앱 허브도 선보일 예정이다.
AI 리터러시 강화를 위한 투자도 이어간다. 틱톡은 디지털 안전 연합체 '노필터', 교육 자선 단체 '라즈베리 파이 재단' 등 전문 기관의 틱톡 콘텐츠 제작을 지원하며 이용자들의 AI 리터러시를 증진하고 있다. 틱톡은 현재까지 AI 리터러시 강화에 400만달러 이상을 투자했고, 향후에도 관련 지원을 지속 확대할 계획이다.
톰 C. 바르게세 틱톡 공공정책 AI 리드는 “틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 안심하며, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다”면서 “이용자들이 AI 생성 콘텐츠를 구분하고 제작 과정을 이해하며, 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 기술, 파트너십, 교육 리소스에 지속 투자할 것”이라고 말했다.
현대인 기자 modernman@etnews.com
