정부가 사회적 우려가 큰 딥페이크 생성물에 대해 사람이 명확히 인식할 수 있는 표시를 의무화했다. 인공지능(AI) 생성물이 화면이나 앱내 서비스 환경(UI)에서 제공되는 경우 유연한 표시도 허용한다.
과학기술정보통신부는 이같은 내용을 담은 AI기본법상 투명성 확보 의무의 구체적 이행방안을 담은 'AI 투명성 확보 가이드라인'을 공개했다. 급증하는 AI 오용에 대한 국민 불안감은 해소하면서 기업들이 서비스 편의성과 사용성을 저해하는 과도한 조치를 하지 않도록 기준을 마련했다.
투명성 확보 의무를 이행해야 하는 주체는 이용자에 AI 제품과 서비스를 직접 제공하는 'AI사업자'다. 국내 이용자 대상 AI 제품·서비스를 제공하는 해외 사업자도 포함된다. 소프트웨어정책연구소 통계상 국내 최대 1800개 기업이 투명성 규제 대상으로 추산된다.
AI 생성물 표시 의무는 AI 생성 결과물이 '서비스 환경 내에서만 이용되는 경우'와 '외부로 반출되는 경우'를 구분해 기술·현실적 여건을 고려한 기준을 마련했다. 서비스 환경 내 제공될 때는 사용자환경(UI) 내 팝업 알림이나 로고 표출 등으로 유연한 표시가 가능하다.
외부로 반출 시에는 확실한 표시 적용이 요구된다. AI로 생성된 텍스트·이미지·영상 등을 공유할 때는 사람이 인식할 수 있게 보고 듣는 방법으로 표시해야 한다. 또는 문구·음성 안내 제공 후 메타 데이터 등 기계가 판독할 수 있는 방법을 AI 생성 결과물에 적용하도록 했다.
실제와 구분하기 어려운 딥페이크 등 가상의 생성물은 이용자 혼란을 막기 위해 사람이 명확하게 인식할 수 있는 방법으로 표시하도록 했다.
사전 고지 의무는 사용자가 AI 제품·서비스 이용 과정에서 고영향·생성형 AI 기술이 적용된 사실을 미리 인지하는 데 중점을 뒀다. 사업자는 서비스 이용약관이나 계약서에 이를 명시하거나 소프트웨어(SW)·앱 구동 화면에 고영향·생성형 AI 기반으로 운용된다는 사실을 알려야 한다.
과기정통부는 1년 이상 규제 계도기간 중 기업 애로사항과 의견을 청취, 향후 새롭게 등장하는 서비스 유형과 기술적 특성 등을 반영해 가이드라인을 지속 보완·고도화해 나갈 계획이다.
박종진 기자 truth@etnews.com
