개인정보보호위원회가 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩에 과징금과 과태료 총 1억330만원을 부과했다.
개인정보위는 28일 제7회 전체회의를 열고 이 같은 행정처분을 의결했다. AI 기술 기업의 개인정보 처리를 제재한 첫 사례다.
개인정보위 조사 결과 스캐터랩은 애플리케이션(앱) 서비스 '텍스트앳'과 '연애의 과학'에서 수집한 카카오톡 대화를 지난해 2월부터 올해 1월까지 페이스북 이용자 대상 챗봇 서비스인 이루다 AI 개발과 운영에 이용한 것으로 확인됐다.
스캐터랩은 이루다 AI 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등 개인정보를 삭제하거나 암호화 조치하지 않았으며 약 60만명에 달하는 이용자 카카오톡 대화 문장 94억여건을 이용했다. 이루다 서비스 운영 과정에서는 20대 여성 카카오톡 대화 문장 약 1억건을 응답 데이터베이스(DB)로 구축하고 이루다가 이 가운데 한 문장을 선택해 발화하도록 했다.
개인정보위는 텍스트앳과 연애의 과학 개인정보처리방침에 '신규 서비스 개발'을 포함한 것만으로 이용자가 동의한 것으로 보기 어렵고 이루다 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어렵다고 판단했다. 이용자 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있어 스캐터랩이 이용자 개인정보를 수집한 목적을 벗어나 이용한 것이라고 봤다.
스캐터랩이 개발자 코드 공유 및 협업 사이트 깃허브에 2019년 10월부터 올해 1월까지 이름 22건(성은 미포함)과 지명정보(구·동 단위) 34건, 성별, 대화 상대방과의 관계(친구 또는 연인) 등이 포함된 카카오톡 대화 문장 1431건과 함께 AI 모델을 게시한 것에 대해서도 특정 개인을 알아보기 위해 사용될 수 있는 정보를 포함했다는 근거로 개인정보보호법을 위반한 것이라고 결론 내렸다.
개인정보위는 조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 사실 등 추가 위반사실을 확인했다. 이루다 관련 사항을 포함, 총 8가지 개인정보보호법 위반행위에 대해 스캐터랩에 총 1억330만원 과징금과 과태료를 부과하고 시정조치를 명령했다.
윤종인 개인정보위 위원장은 “이루다 사건은 전문가조차 의견이 일치되지 않아 어느 때보다도 격렬한 논쟁이 있었고 신중한 검토를 거쳤다”면서 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 말했다.
한편, 개인정보위는 AI 기술 기업이 스스로 개인정보 보호 역량을 높일 수 있도록 AI 개발자나 운영자가 현장에서 활용 가능한 'AI 서비스의 개인정보보호 자율점검표'를 발표하고 현장 컨설팅을 지원할 예정이다.
오다인기자 ohdain@etnews.com
