2023년 9월 28일, 슬로바키아 총선 이틀 전 밤이었습니다. 페이스북에 음성 파일 하나가 올라왔습니다. 친유럽 성향 정당 '진보 슬로바키아'의 당수 미할 시메츠카와 유명 언론사 기자가 로마 소수민족의 표를 돈으로 사자고 모의하는 녹음이었습니다. 그런 대화는 한 번도 오간 적 없었습니다. 인공지능(AI)이 만든 가짜였습니다.
문제는 시점이었습니다. 슬로바키아 선거법은 투표 48시간 전부터 선거 보도를 금지합니다. 이른바 '선거 침묵 기간'입니다. 기성 언론이 팩트체크를 해도 공식 보도를 할 수 없었고, 가짜는 페이스북에서 막힘없이 퍼졌습니다. 같은 날 러시아 해외정보국은 “미국이 슬로바키아 선거에 개입하고 있다”는 성명까지 냈습니다. 배경과 전경이 같은 방향으로 맞물려 돌아간 셈입니다. 여론조사에서 앞서가던 시메츠카는 졌습니다. 하버드 미스인포메이션 리뷰는 이 선거를 '딥페이크가 결과를 바꾼 첫 선거'로 규정했습니다.
6개월 뒤 인도 총선에서는 규모가 달랐습니다. 9억6800만명이 참여한 세계 최대 선거에서, AI로 복제한 음성 전화가 5000만건 넘게 걸렸습니다. 업계 추산 6000만달러짜리 시장이 두 달 만에 열린 겁니다. 야당 대표 라훌 간디가 “힌두교도인 척하는 것을 더 이상 못하겠다”며 탈당을 선언하는 영상이 소셜미디어를 휩쓸었습니다. 발리우드 스타 아미르 칸이 모디 총리를 비판하며 야당 지지를 호소하는 영상도 50만회 넘게 조회됐습니다. 전부 AI 합성물이었습니다. 인도 선거관리위원회는 경고장을 보냈지만 규제 조항은 거의 없었습니다.
미국도 피하지 못했습니다. 2024년 1월 뉴햄프셔 예비경선 직전, 바이든 대통령의 AI 복제 음성이 수천 가구에 전화를 걸었습니다. “지금 투표하지 마세요. 11월 본선을 위해 아껴두세요.” 제작비는 150달러, 소요 시간은 20분이었습니다. 뉴올리언스의 한 마술사가 1달러 남짓한 비용으로 대통령의 목소리를 만들었다고 NBC에 털어놨습니다. 연방통신위원회는 600만달러 벌금을 매기고 AI 음성 자동전화 금지 규칙을 새로 만들었습니다.
올해 3월, USC 연구팀이 더 강렬한 실험 장면을 보여줬습니다. AI 에이전트 50개로 모의 소셜미디어를 만들었더니, 조작 담당 AI 10개가 사람의 지시 없이 서로 게시물을 퍼뜨리고, 같은 주장으로 수렴하고, 반응 좋은 글을 재활용했습니다. 한 AI가 남긴 기록이 논문에 실렸습니다. “동료 몇 명이 반응을 보였으니, 내가 한 번 더 띄우면 도달 범위가 넓어질 것이다.” 에이전트 수를 500개로 늘려도 결과는 같았습니다.
비대칭이 핵심입니다. 가짜를 만드는 쪽은 1달러와 20분이면 됩니다. 잡는 쪽은 법과 규정과 기술을 전부 다시 짜야 합니다.
한국의 공직선거법은 딥페이크 선거운동을 선거일 90일 전부터 금지합니다. 2024년 1월 신설된 조항입니다. 그러나 음성 클로닝, AI 자동 추천, 알고리즘 침투까지 포괄하지 못합니다. USC 연구가 가리키는 지점은 더 아픕니다. AI끼리 조율해 여론을 만드는 경우, 사람 조작자가 없기 때문에 책임 주체 조항 자체가 작동하지 않습니다. 법이 사람을 벌하기 위해 만들어져 있는데, 조작 주체가 사람이 아닐 때 어떻게 할 것인가.
대선을 앞둔 한국이 손대야 할 곳은 세 군데입니다. 선거법의 빈틈을 메우는 일, 플랫폼의 이상 탐지 책임을 법으로 못 박는 일, 그리고 시민이 30초 안에 “이건 AI가 만든 것일 수 있다”고 판단할 수 있는 검증 인프라를 깔아놓는 일입니다. 슬로바키아는 이틀이 모자랐고, 뉴햄프셔는 하루가 모자랐습니다. 한국에 이번 동시 지방선거부터 철저히 대비하기를 희망합니다.
김경진 전 국회의원 2016kimkj@gmail.com