울산과학기술원(UNIST)이 인공지능(AI)내 삭제한 정보가 다시 살아나는 것을 막는 '기억 지우개' 기술을 개발했다. AI가 학습한 민감 개인정보나 저작권 위반 데이터를 삭제할 때 유용하다.
UNIST는 윤성환 인공지능대학원 교수팀과 박새롬 산업공학과 교수팀(이하 윤 교수팀)이 '스포터(Spotter)'를 개발했다고 21일 밝혔다. 스포터는 지워야 할 정보와 비슷한 정상 정보는 보호하고, 삭제한 정보에 관한 학습 복구는 막는 '머신 언러닝' 기술이다.
머신 언러닝(Machine Unlearning)은 학습을 마친 AI에서 특정 데이터나 범주로 인한 영향만 선택적으로 없애는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보를 지우거나 학습 데이터에 포함된 개인 정보와 유해 콘텐츠를 제거할 때 필요하다.
스포터는 AI의 정보 구별 능력은 그대로 유지하면서 삭제 대상 사진의 공통점 분석 능력은 제거한다. 따라서 AI는 삭제한 사진 몇 장이 다시 들어와도 지워진 인식 기준을 다시 수립하지 못한다.
윤 교수팀은 기존 언러닝 기술의 약점인 '과잉 삭제'와 '삭제 정보가 다시 살아날 수 있는 재학습 취약성'을 자체 실험으로 진단하고 극복했다.
기존 언러닝 기술은 AI가 특정 범주를 더 이상 인식하지 못하게 만들어 평균 정확도를 높였지만 반대로 삭제 대상과 닮은 정상 정보의 인식 성능은 떨어졌다. 삭제 대상의 특징이 AI 안에 남아 관련 사진 몇 장을 다시 보여주면 지웠던 인식 능력이 되살아나기도 했다. '고양이' 학습 기억을 삭제했는데 호랑이나 표범까지 인식 정확도가 떨어지고, 고양이 사진 몇 장만 다시 보면 학습 기억을 되살려 고양이 판별 능력을 되살아나는 식이다.
스포터를 소형 이미지 데이터셋(CIFAR-10)으로 실험한 결과, 삭제 대상의 인식 정확도를 0%로 낮췄다. 학습 복구 뒤 인식 정확도도 0.24%로 억제했다.
윤성환 교수는 “기존 언러닝 기술의 사각지대를 보완하기 위해 스포터를 개발했다. 기존 언러닝과 쉽게 결합할 수 있는 플러그인 형태로 설계해 얼굴 인식, 유해 콘텐츠 삭제 등 개인정보를 보호해야 하는 중요 AI 서비스에 두루 활용할 수 있을 것”이라고 말했다.
울산=임동식 기자 dslim@etnews.com
