[사이언스온고지신]인공지능(AI)을 활용해 유해미디어 검출한다

글자 작게 글자 크게 인쇄하기
이수인 한국전자통신연구원(ETRI) 방송미디어연구소장
<이수인 한국전자통신연구원(ETRI) 방송미디어연구소장>

정보 및 통신기술 발전과 확산이 빠른 속도로 진행됨에 따라 인터넷에 손쉽게 접속할 수 있는 다양한 종류 기기가 출현하고 있다. 이런 기기 수요와 공급 확산은 온라인 미디어 콘텐츠 수요·공급의 급격한 증가를 가져왔다. 뿐만 아니라 적절한 검증을 거치지 않은 온라인 미디어 콘텐츠가 무분별하게 유통되는 미디어 소비환경을 형성했다.

우리나라 스마트폰 가입자는 지난 8월 현재 6569만명에 달한다. 청소년 휴대폰 보급률은 세계 1위다. 스마트미디어 단말을 통한 음란물 유통은 꾸준히 증가하고 있다. 모바일 페이지 검색어 가운데 음란물 관련 키워드는 20% 이상을 차지한다.

개인이 콘텐츠를 제작해 배포하는 개인방송 스트리밍 서비스의 유통 또한 증가하고 있다. 해외 음란물 유포 형태도 다운로드에서 스트리밍으로 급속히 변화하고 있다. 이와 같은 미디어 콘텐츠 제작, 유통 및 소비 환경의 변화로 인해 미디어 불법 복제 및 유통의 만연, 유해 콘텐츠 생산 및 유포, 어린이·청소년의 빈번한 유해 미디어 노출 등이 심각한 사회 문제로 대두되고 있다.

최근 발생한 '자살예고' 여성 BJ 투신 장면 생방송, '홍대 누드 모델 몰카' 유출 사건은 사회적으로 큰 충격을 줬다. 이와 같은 유해 영상물은 인터넷과 SNS를 통해 빠른 속도로 전파돼 단기간에 피해자 인권을 심각하게 침해하고 국민 정서를 훼손하고 있다.

정부는 웹하드를 비롯한 특수유형부가통신사업자의 불법음란정보 검색〃송수신 제한 등 기술적 조치 의무화했다. 또 이동통신사업자가 청소년과 계약할 때 불법음란정보 및 청소년 유해 매체물 차단 수단을 제공하도록 규정하는 등 다각적 노력을 하고 있다.

하지만 무한한 양의 음란물을 필터링하는 것은 현실적으로 불가능하다. 디지털 성범죄 발생건수는 2016년 5185건으로 2012년 2400건 대비 갑절 이상 증가했다. 같은 기간 개인 성행위 정보 심의건수는 6배 이상 증가했다.

정부와 기업은 유해콘텐츠 차단을 위해 노력하고 있으나 개인방송 활성화에 따라 실시간으로 생성·소비되는 방대한 양의 콘텐츠에서 인력에 의존해 유해 콘텐츠를 선별하고 차단하는 것은 역부족이다. 좀 더 향상된 유해 콘텐츠 분석·검출·차단 기술이 필요하게 됐다.

유해정보 분석·검출·차단 기술은 키워드, URL, 해쉬 등 1차 수집 자료를 이용하는 데이터 기반 차단 기술, 차단 대상 내용 분석을 통한 2차 가공정보를 이용하는 정보기반 차단 기술, 2차 가공 정보 학습 및 분석을 통해 새롭게 획득된 지식을 이용하는 지식기반 차단 기술, 미디어 의미 추출과 미디어와 지식 간 연관성 분석을 통해 자율적으로 진화하는 지능기반 차단 기술로 진화하고 있다.

지능기반 기술은 유해콘텐츠를 분석·검출함에 있어서 학습 및 추론, 상황 이해, 자연어 이해, 시각정보 이해 등을 활용함으로써 이전보다 정교한 판단을 가능하게 해준다.

국내에서는 네이버가 'X-아이'를 발표하고 자사 사이트에 등록되는 이미지와 동영상을 대상으로 음란물을 필터링하고 있다. 카카오는 지난해 어린이 콘텐츠 전용 서비스인 '카카오 키즈'를 선보였다.

유튜브도 지난해 5월 서비스 내 아동·유아를 위한 동영상 콘텐츠를 선별해주는 '유튜브 키즈' 서비스를 국내에 선보였고, 페이스북은 흉악 범죄나 자살·자해 장면 등을 담은 라이브 스트리밍 콘텐츠를 걸러 낼 수 있는 인공지능(AI) 칩을 개발하고 있다.

과학기술정보통신부와 한국전자통신연구원(ETRI)은 빠르게 변화하는 미디어 소비환경에 대응하기 위해 AI를 이용해 이미지, 동영상뿐만 아니라 인터넷 방송에도 적용 가능한 음란물 분석·검출 기술을 개발하고 있다.

이 기술은 미디어 사업자의 인터넷 불법·유해 콘텐츠 방지 노력에 도움을 줄 수 있다. 미디어 연관성 분석 기술과 융합해 인터넷 유해미디어에 대한 능동, 선제적 대응을 가능하게 해 음란물 심의 활동을 획기적으로 개선할 수 있다.

미디어는 이미 우리 생활 일부며, 건강한 미디어 소비 환경은 깨끗한 공기와도 같다. 상호 소모적인 규제, 검열, 차단이 아닌 사회구성원으로서 갖는 책임감, 자정 노력, 기술적 지원이 조화를 이룬다면 국민 모두가 건강한 미디어 소비를 통해 안전하고 건강한 삶을 누릴 수 있는 세상이 될 것이다.

이수인 한국전자통신연구원(ETRI) 방송미디어연구소장 silee@etri.re.kr