네이버가 악성 댓글 방지를 위한 인공지능(AI) 차단 시스템을 고도화했다.
네이버는 악성 댓글 탐지 시스템 'AI 클린봇 3.0' 업그레이드를 완료했다고 29일 밝혔다. 이번 업그레이드로 △자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 △사건·사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다.
AI 클린봇 3.0 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력도 강화했다. 네이버는 뉴스 댓글 내용뿐 아니라 기사 제목, 본문을 종합해 악성 댓글을 탐지하도록 최적화 과정을 거쳤다. 클린봇은 맥락에 따라 정확하게 악의적 의도를 탐지하도록 고도화됐다.
네이버는 2019년 'AI 클린봇'을 선보였다. 이후 업그레이드를 거쳐 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도를 높여왔다.
2020년에는 악성 키워드 기반으로 욕설, 비속어를 자동 탐지하는 수준을 넘어 '문장 맥락'으로 악성 댓글 판단 기준을 확대했다. 욕설이 없더라도 모욕적 표현을 탐지할 수 있는 셈이다. 네이버는 성적 불쾌감 유발, 혐오, 비하, 차별 표현, 기호, 문자를 활용한 우회 악플 등을 막아 내기 위해 지속 업그레이드를 진행했다. 2023년 한국인터넷자율정책기구(KISO) 혐오표현 자율정책 가이드라인도 반영했다.
김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”면서 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화하겠다”고 말했다.
변상근 기자 sgbyun@etnews.com
