경쟁사 정부 가이드라인 기다리는 사이 먼저 의무화
업계에 가이드 역할 기대
네이버가 라이브커머스 플랫폼 '쇼핑라이브' 내 인공지능(AI) 생성 콘텐츠인지 명확히 알 수 있는 '워터마크'를 도입한다. 법적 의무화 시작 전이지만 과장된 딥페이크 쇼핑 정보를 차단해 신뢰도를 높인다는 취지다. 업계에서 선제적으로 도입한 만큼 향후 업계에 가이드 역할을 할 것으로 기대된다.
11일 업계에 따르면 네이버는 최근 쇼핑라이브에서 AI로 생성·편집한 이미지·영상·음성 콘텐츠를 사용할 경우, 설명란이 아닌 시청 화면 내에 'AI 생성 콘텐츠'임을 지속적으로 표시하도록 했다. 해당 정책은 다음 달 7일부터 본격적으로 적용된다. 그전까지는 계도 기간으로 운영된다.
대본을 별도로 작성했더라도 이를 AI 음성으로 합성하거나 가상 인물(버추얼 휴먼)을 등장시키는 경우 역시 표기 대상에 포함된다. 다만, 단순 대본 작성 보조 도구로써 'AI 큐시트' 기능을 활용하고 실제 진행자가 방송하는 경우에는 표기 의무에서 제외된다.
소비자의 구매 판단에 혼란을 줄 수 있는 '딥페이크 마케팅'은 원천 차단한다. 가상 인간이 제품을 착용해 시연하거나, AI 효과를 실제 상품의 효능인 것처럼 연출하는 행위는 엄격히 금지된다. 예컨대 실측 테스트가 아님에도 AI 보정 기술로 다이어트 전후를 극적으로 비교하거나, 화장품의 발색을 왜곡하는 콘텐츠는 송출할 수 없다.
특히 국민 건강과 직결되는 민감 품목에 대해서는 진입 장벽을 높였다. 의료기기, 건강기능식품, 영유아용 식품 등 인체에 직접적인 영향을 미치는 제품군은 AI 콘텐츠 사용이 제한된다. 또한 유명인을 허가 없이 모사한 AI 콘텐츠나 정치, 종교, 재난 등 사회적으로 민감한 이슈를 다루는 경우에도 방송이 불가하다. AI 기술 오남용으로 인한 초상권 침해와 가짜 뉴스 확산을 방지하려는 조치로 풀이된다.
'실시간 쌍방향 소통' 원칙도 강화했다. AI 버추얼 휴먼이 진행을 맡더라도 고객 댓글이나 문의에 실시간으로 대응하지 않고, 사전 제작된 영상을 단순히 반복 송출하는 방식의 '무인 방송'은 허용되지 않는다. 또, 가상의 농가나 장인을 창작해 마치 실제 생산자인 것처럼 스토리텔링을 하는 행위 역시 기만행위로 간주한다. 네이버는 정책 위반 시 콘텐츠 미노출이나 방송 권한 제한 등 강력한 페널티를 부과할 계획이다.
네이버 관계자는 “AI 콘텐츠 증가에 따른 이용자 오인이나 불편을 없애고, 안전한 라이브환경을 만들 수 있도록 한 것”이라고 설명했다.
오는 22일부터 시행되는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'은 AI 생성물에 워터마크 표기를 의무화하고 있다. 다만, 정부는 업계의 기술적 부담과 초기 혼선을 고려해 최소 1년의 계도 기간을 뒀다. 이에 따라 실질적 제재는 2027년 이후 이뤄질 것으로 예상된다. 국내 이커머스·라이브커머스 사업자들은 AI 워터마크 관련 정부의 가이드라인이 나온 후 본격적으로 대응할 예정이다.
한편 카카오 쇼핑라이브, 쿠팡 라이브 등도 'AI 워터마크'에 대한 내부 정책을 마련하고 있는 것으로 확인했다. 네이버가 자율 규제에 가까운 기준을 먼저 제시하면서 업계 전반에서 기준점 역할을 할 가능성이 커졌다.
윤희석 기자 pioneer@etnews.com
