[AI 사피엔스 시대]진짜 같은 가짜 '딥페이크'…무심코 믿었다간 큰코 다칠라

글자 작게 글자 크게 인쇄하기

GAN 기계학습 기술로 원본에 겹쳐
음성·입모양 등 정교한 부분도 구현
美·EU, 음란물 불법 유통 등 대응
한국도 국회서 '딥페이크 법' 통과

버즈피드가 제작한 딥페이크 영상. 영화감독 조던 필(오른쪽)이 성대모사한 영상을 버락 오바마 전 미국 대통령 영상에 입혔다. 유튜브 캡쳐
<버즈피드가 제작한 딥페이크 영상. 영화감독 조던 필(오른쪽)이 성대모사한 영상을 버락 오바마 전 미국 대통령 영상에 입혔다. 유튜브 캡쳐>
📁관련 통계자료 다운로드딥페이크 언급량 변동 추이성별에 따른 딥페이크 언급량직업에 따른 딥페이크 언급량

2018년 4월. 유튜브 한 채널에 버락 오바마 전 미국 대통령이 등장했다. 그가 “트럼프 대통령은 쓸모없는 사람”이라며 전하는 얘기에 세계가 발칵 뒤집힐 뻔했다. 충격적 영상은 해프닝으로 끝났다. 영상은 실제 오바마 전 대통령이 발언한 것이 아니었다. 콘텐츠 제작사 버즈피드가 오바마 전 대통령 영상에 영화감독 조던 필이 성대모사한 목소리를 입히고, 자연스럽게 입 모양까지 바꾼 영상이다. 실제 오바마가 얘기한 것처럼 자연스러운 이 영상에는 '딥페이크' 기술이 사용됐다. 영상 공개 후 세계는 딥페이크에 더 주목했다.

딥페이크는 인공지능(AI) 핵심 기술 '딥러닝'과 가짜 '페이크(fake)' 합성어다. 적대관계생성신경망(GAN) 기계학습 기술을 사용해 사진이나 영상, 음성 등을 원본에 겹치는 방식이다. GAN은 두 알고리즘이 작동한다. 하나는 이미지 식별 기술을 이용해 정교한 이미지를 만들고, 다른 알고리즘은 제작된 이미지 진위 여부를 판단한다. 두 알고리즘이 서로 대립하며 차이점을 분석하고, 스스로 학습하며 진짜 같은 가짜 영상을 만든다. AI가 사진이나 영상 등을 공부하면 할수록 특정 단어를 얘기할 때 입꼬리가 올라가는 정교한 부분까지 구현이 가능하다. 예전에도 사진 합성, 영상 합성 등 가짜 콘텐츠가 있었지만 부자연스러웠다. GAN 기계학습 기술이 발전하면서 과거보다 가짜인지 진짜인지 구분하지 못할 정도의 정교한 영상을 구현한 것이다.

딥페이크 기술 발전은 다양한 산업에 긍정적 영향을 준다. 독일 뤼벡대 연구진은 GAN 기반 딥러닝 알고리즘을 암 진단에 활용해 이전보다 정확한 진단이 가능함을 입증했다. 엔터테인먼트 산업에도 딥페이크 기술을 적용, 실제 촬영 없이 진짜 같은 영상을 쉽게 만든다.

문제는 오바마 전 대통령 가짜 영상처럼 가짜 콘텐츠, 음란물 제작 등 딥페이크 악용 사례가 늘어난다는 점이다.

실제 딥페이크 악용은 세계적 이슈다. 2018년 멕시코 대선 당시 현 대통령 안드레스 마누엘 로페스 오브라도르가 “캠프 사업들이 선불카드를 뇌물로 받았다”라고 말하는 음성이 유포돼 논란이 됐다. 이 음성은 딥페이크 기술로 만든 가짜 음성으로 후보 공격용 상대방 정치 공작이었다.

딥페이크 기술을 악용해 위조 음란물을 만들어 불법 유통하는 범죄도 늘어난다. 사이버 보안 연구 회사 딥트레이스 보고서에 따르면 지난해 세계적으로 유통된 딥페이크 영상 1만4698개 가운데 96%가 음란물로 소비된다. 얼굴 합성 피해자는 미국·영국 여배우가 46%, 한국 케이팝 가수가 25%로 많은 비중을 차지했다.

세계는 딥페이크와 전쟁을 선포하고 대응책을 마련 중이다. 페이스북, 유튜브 등 딥페이크 영상이 불법 유통되는 플랫폼 기업은 적극 대응한다. 페이스북과 유튜브는 딥페이크 콘텐츠를 발견하는 즉시 이를 삭제하는 정책을 시행 중이다. 트위터도 정교하게 조작된 영상이나 사진을 포함한 트윗은 삭제하거나 별도 표기를 붙인다는 방침을 밝혔다.

정부 대응도 계속된다. 미국은 2018년 딥페이크 규제 법안을 제출할 만큼 대응에 적극적이다. 딥페이크 피해자 프라이버시를 보호하고 악용 사례는 엄벌에 처한다는 기조다. 주정부 차원에서도 '사이버스토킹법' 등을 만들어 대응 중이다.

유럽연합(EU)도 AI 플랫폼에 제3자 검증 기능을 높이는 등 허위정보 행동규범을 만들었다. 개인정보보호법(GDPR)에 딥페이크 영상물 삭제 요청과 데이터 처리에 이의를 제기할 수 있는 규정을 담았다. 독일은 '소셜네트워크 법 집행 개선에 관한 법률'을 통해 플랫폼에 허위정보 모니터링과 삭제 의무를 부여했다.

우리나라도 지난달 박대출 의원이 발의한 '성폭력범죄의 처벌 등에 관한 특례법 일부개정안', 일명 '딥페이크 법'이 국회를 통과했다. 이 법은 딥페이크 음란 영상물 제작과 유통을 처벌하는 내용을 담았다. 딥페이크를 제작하거나 반포·판매·임대 등 행위를 한 경우 5년 이하 징역 또는 5000만원 이하 벌금으로 처벌하도록 규정했다. 영리 목적으로 정보통신망을 이용해 유포한 경우 7년 이하 징역으로 가중처벌이 가능하다.

김지선기자 river@etnews.com