소셜미디어(SNS)에서 인공지능(AI)이 작성한 댓글을 이용자가 구별해내는 비율이 40% 수준에 불과한 것으로 나타났다. 특히 공격적이거나 부정적인 댓글보다 긍정적이고 친근한 말투를 사용하는 AI 봇 정체를 파악하기가 더 어려운 것으로 조사됐다.
사이버보안 기업 서프샤크(Surfshark)가 전 세계 참가자 1722명을 대상으로 진행한 AI 봇 식별 시뮬레이션 분석 결과, 참가자들은 SNS에서 활동하는 AI 봇을 평균적으로 절반도 채 구별하지 못했다. 긍정적이고 친근하며 논리적인 말투를 사용하는 봇에 대한 탐지율은 38%까지 떨어졌다.
루이스 코스타(Luis Costa) 서프샤크 리서치·인사이트 책임자는 “정교한 조작 캠페인에 활용되는 AI 기반 계정은 상대 의견에 쉽게 동조하거나 논리적이고 평범한 방식으로 행동하는 경우가 많다”며 “이런 계정은 실제 이용자 의견에 힘을 보태고 댓글 수를 늘리는 것만으로도 소수 의견을 마치 다수 의견인 것처럼 보이게 만들 수 있다”고 설명했다.
반면에 부정적이고 공격적인 성향을 보이는 AI 봇은 상대적으로 쉽게 식별됐다. 시뮬레이션 참가자들은 부정적인 AI 봇의 50.2%를 가려냈다. 코스타 책임자는 “SNS에서 화난 악플러는 누구나 알아보기 때문에 자주 들통나는 것도 이런 유형”이라고 말했다.
긍정적이고 친근한 방식으로 접근하는 봇은 탐지율이 38%로 떨어졌다. 두 유형 사이에는 12%포인트(P) 이상 차이가 발생했다. 이용자 경계심을 자극하지 않고 자연스럽게 대화에 참여하는 방식이 AI 봇 식별을 어렵게 만드는 요인으로 분석된다.
문제는 이 같은 AI 봇이 단순히 댓글을 늘리는 수준을 넘어 사회공학적 공격이나 허위정보 확산에 활용될 수 있다는 점이다. 이용자는 자신에게 우호적인 상대를 위협적인 존재로 인식하지 않는 경향이 있어 개인 메시지(DM)로 대화를 옮기거나 개인정보를 공유하고, 상대방이 게시한 링크를 클릭할 가능성이 높아질 수 있다.
특히 논리적이고 자연스러운 방식으로 전달되는 허위정보는 이용자가 상대방이 AI라는 사실을 인지하기 전에 정치·사회적 견해에 영향을 미칠 가능성도 있다. 한국언론진흥재단의 '디지털 뉴스 리포트 2026'에서도 국내 응답자 59%가 온라인 허위정보를 우려한다고 답했다. 이는 전년보다 4%P 증가한 수치다.
AI 봇을 판별하는 단서로 알려진 이모지 사용 역시 결정적인 기준이 되기는 어려운 것으로 나타났다. 시뮬레이션에서는 이모지를 많이 사용하는 봇 탐지율이 60%를 넘었지만, 이모지를 거의 사용하지 않는 봇 탐지율은 35%에 그쳤다. 이모지 사용량에 따라 탐지율이 30.6%P 차이를 보인 셈이다.
플랫폼별로는 텍스트 중심 SNS 이용자의 봇 식별 능력이 상대적으로 높았다. X(옛 트위터) 이용자의 AI 봇 탐지율은 49%로 가장 높았으며, 페이스북은 39%, 틱톡은 38%로 조사됐다. 텍스트 기반으로 다른 이용자 표현과 논리를 접할 기회가 많은 플랫폼 이용자가 AI 봇 특성을 상대적으로 더 쉽게 파악한 것으로 분석된다.
서프샤크는 AI가 생성한 콘텐츠를 사람의 눈으로 완벽하게 식별하기는 갈수록 어려워지고 있다고 지적했다. 자동화된 AI 콘텐츠 탐지 도구 역시 정교하게 생성·수정된 콘텐츠를 정확하게 구분하는 데 한계가 있다는 설명이다.
코스타 책임자는 SNS 이용자에게 콘텐츠 자체뿐만 아니라 게시물을 작성한 계정의 특성을 함께 살펴볼 것을 권고했다. 계정 생성 시점과 프로필 사진, 자기소개, 과거 게시물 등을 확인하고, 최근 만들어진 계정이 비슷한 메시지를 반복적으로 게시하거나 짧은 시간에 동일한 유형 댓글을 집중적으로 남기는 경우 주의할 필요가 있다는 것이다.
또 자신의 의견에 동의하거나 응원한다는 이유만으로 상대방을 실제 이용자라고 단정해서는 안 된다고 강조했다. 짧은 시간에 비슷한 내용의 긍정적인 댓글이 집중적으로 올라오는 경우 AI 봇에 의해 만들어진 반응일 가능성도 살펴봐야 한다.
이번 시뮬레이션 'Bot or Not'은 스웨덴 말뫼대 인터랙션 디자인 전공 학생들이 제작했다. 서프샤크는 이 프로젝트를 계기로 사이버보안 인식 제고를 지원하기 위한 'Cybersecurity Advocacy Fund'를 출범했다. 연간 최대 10만유로 규모로 운영되는 이 기금은 전 세계 학생과 연구자, 사이버보안 인식 제고 활동 등을 지원할 예정이다.
김현민 기자 minkim@etnews.com
