네이버가 딥페이크로 인한 문제를 알리고 이용자 피해를 예방하기 위해 나섰다.
네이버는 검색을 통해 딥페이크 관련 정보나 콘텐츠가 노출될 시 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구를 노출할 예정이라고 28일 밝혔다.
적용 대상은 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 지원한다.
신고 방법과 피해 유형을 손쉽게 확인할 수 있도록 도움말도 제공한다. △공직선거법 등 선거 관련 법을 위반할 경우 △성범죄에 해당할 경우 △아동·청소년 보호를 저해하거나 청소년 유해 또는 음란성 게시물에 해당할 경우 △본인의 명예를 훼손하거나 초상권 등 권리를 침해할 경우 네이버 권리보호센터에 신고하면 된다.
네이버는 이와 함께 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때 딥페이크 관련 안내문구를 표기할 계획이다. 새로 시행된 공직선거법을 미처 인지하지 못해 법에 저촉되는 상황을 예방하기 위해서다.
뉴스 서비스에서도 AI와 로봇이 자동으로 작성한 기사를 사용자가 인지할 수 있도록 표기를 강조한다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 '이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다.'라는 문구를 노출한다.
네이버 관계자는 “AI 기술이 발전하고 활용 분야가 다양해지며 딥페이크를 이용한 결과물로 인한 문제와 피해에 대해 관심과 우려가 늘고 있다”며 “네이버는 선거 기간은 물론 이후로도 딥페이크로 인한 문제를 알리고 이용자 피해를 방지하기 위한 노력을 지속하겠다”고 말했다.
손지혜 기자 jh@etnews.com
