딥페이크(Deepfake)는 딥러닝과 페이크(fake)의 합성어다. 인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 자체를 의미한다. 적대관계생성신경망(GAN)이라는 기계학습 기술을 사용, 기존 사진이나 영상을 원본에 겹쳐서 만들어 낸다.
2017년 미국 대형 온라인 커뮤니티 '레딧'에 올라온 합성 포르노 영상을 딥페이크 시초로 본다. 'Deepfakes'라는 아이디를 쓰는 이용자가 오픈소스 소프트웨어(SW) 텐서플로를 활용해 유명 연예인과 포르노를 합성한 영상을 올렸다. 이후 'FakeApp'이라는 무료 SW가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작했다. 기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전했다.
딥페이크 기술은 많은 윤리 논쟁을 촉발시켰다. 위조 포르노로 피해자가 늘고 있다는 점이 가장 큰 우려를 사고 있다. 갤 가돗, 엠마 왓슨 등 미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 많은 피해를 봤다. 아시아 지역에서는 한국 케이팝 가수들이 타깃으로 되고 있다.
사이버 보안 연구 회사 딥트레이스의 보고서에 따르면 2019년 유통되고 있는 딥페이크 영상 1만4698점 가운데 96%는 포르노로 소비되고 있다. 얼굴 합성 피해자는 미국·영국 여배우가 46%, 한국 케이팝 가수가 25%로 많은 비중을 차지했다.
딥페이크 가짜뉴스로 인한 위험성도 제기된다. 유명 정치인의 얼굴을 합성한 딥페이크 연설 영상은 텍스트 가짜 뉴스 대비 파급력이 클 것으로 예상된다. 조던 필 영화감독은 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 만들어 공개했다. 딥페이크 기술이 내포한 위험성을 사람들에게 알리기 위한 목적이었다.
이형두기자 dudu@etnews.com
