“올해 상반기 인공지능(AI) 유해 콘텐츠 차단 서비스를 상용화해 어린이부터 청소년까지 안심하고 디지털 기기를 사용할 수 있는 환경을 만들겠습니다.”
조지연 윌리소프트 대표는 올해를 AI 기반 음란물 차단 서비스 '라이브 AI 블라인드' 사업화 원년으로 정했다. 기술·사업성 검토를 마쳤고, 교육청 등 정부기관을 우선으로 겨냥해 레퍼런스를 확보한다.
교육용 태블릿PC '디벗'에서 망 우회를 통한 불법 콘텐츠와 성인방송 채널에 대한 접근이 문제로 부각되면서 라이브 AI 블라인드 수요가 클 것으로 판단한다.
조 대표는 “전국 교육청에서 디벗을 보급하고 있지만 모든 유해 콘텐츠를 차단하기 어려운 만큼 음란물 시청의 통로가 될 수 있다”며 “누구나 접근 가능한 유해 콘텐츠로부터 우리 아이들을 지키기 위한 최소한의 기술적 장치가 필요한 상황”이라고 말했다.
라이브 AI 블라인드는 윌리소프트가 독자 AI 신경망을 기반으로 개발한 유해 콘텐츠 차단 솔루션이다. 디지털기기 화면을 하나의 객체로 인식해 AI가 초당 4~60번까지 화면 내 이미지를 바탕으로 음란물 여부를 판단한다. 10만장 이상의 데이터를 학습해 99%의 인식률을 확보했다. 음란물로 판단하면 화면을 알아볼 수 없도록 흐리게 만들고, 관리자(부모·교사 등)에게 자동 연락할 수 있게 한다. 아예 화면을 끄도록 설정할 수도 있다.
조 대표는 “기존 유해 매체 차단 서비스는 URL 기반으로 작동해 끊임없이 주소를 우회할 경우 막는데 한계가 있다”며 “라이브 AI 블라인드는 접속 주소가 아닌 콘텐츠 내부의 유해 객체를 직접 판단하는 만큼 근본적인 차단이 가능하다”고 강조했다.
2024년 5월 설립된 윌리소프트는 반려동물 생체 인식 서비스 기업인 펫나우가 전신이다. 조 대표는 2018년 펫나우를 설립해 AI와 블렉체인 기술을 결합한 생체인식 서비스를 출시했고, 이 노하우를 바탕으로 유해 콘텐츠 대응 AI 서비스 기업 윌리소프트 창업까지 이어졌다. 조 대표는 칩스앤미디어에서 IP 분야 영상 처리 개발자로 시작해 삼성SDS 등을 거쳤다.
그가 이 분야에 승부수를 건 것은 어린아이까지 스마트폰과 뗄 수 없는 상황에서 무조건 사용을 막기보다는 올바로 사용하는 환경을 만드는 게 필요하다고 판단했기 때문이다.
조 대표는 “디지털 환경에서 유해성을 스스로 판단하기 어려운 청소년이 안전하게 사용할 수 있는 최소한의 기술적 방어막이 필요하다는 확신으로 솔루션을 개발했다”고 말했다.
윌리소프트는 현재 국내 이동통신회사와 협업 논의를 진행 중이고, 상반기 교육청 디벗 사업 공급을 목표로 한다. 디벗 내 유해 콘텐츠 차단 서비스를 시작으로 집에서 사용하는 청소년용 PC까지 서비스 영역을 확대한다. 차단 콘텐츠 역시 음란물에서 폭력적인 도구 등 다양한 영역으로 넓힌다.
조 대표는 “추후 음란물뿐 아니라 도박 담배, 총기, 도검류 등 다양한 위험 객체에 대한 학습도 병행하는 중”이라며 “수 많은 상품 썸네일을 사람이 검수하고 있는 대형 쇼핑몰에도 공급을 추진해 AI가 판단하고 자동 모자이크 처리하는 이미징 프로세싱 서비스를 확대하겠다”고 말했다.
정용철 기자 jungyc@etnews.com
