정부 연구비 약 8억8000만원이 투입된 KCI 등재 논문에 생성형 AI가 만든 가짜 참고문헌 17건이 인용되어 게재 철회 및 해당 저자 3년 투고 금지 처분을 받은 사건이 지난 3일 보도로 알려진 가운데, 국내 한 학술지가 투고 단계에서 논문의 AI 개입 여부 검증 체계 도입을 결정하며 주목받고 있다.
AI 기반 신뢰 기술(Trust Technology) 기업 메타크라우드(대표 김형진)는 문서 AI 개입 검증 솔루션 'TextShield(글자국)'를 한국연구재단 KCI 등재 학술지 '인공지능인문학연구'에 공급하는 계약을 체결했다고 19일 밝혔다. '인공지능인문학연구'는 심사위원 배정 전 TextShield를 통해 투고 논문의 AI 개입 수준과 참고문헌 실재 여부를 검증하게 된다.
메타크라우드에 따르면 개별 문장 단위로 AI 작성 여부를 판별하는 기존 탐지 방식만으로는 학술 논문의 AI 개입 여부를 검토하는 데 한계가 있다. 최신 생성형 AI가 인간의 문장 구조와 표현 습관을 거의 그대로 재현하면서 사람이 쓴 글과 AI가 작성한 글을 구별하기 어려워지는 가운데, 학술 논문은 문체까지 정형화돼 있어 이러한 구별이 더욱 어렵다. 문장별 확률 중심의 결과만으로는 AI 개입 양상을 종합적으로 파악하기 어렵고, 인용된 참고문헌이 실제로 존재하는지도 별도로 확인해야 한다.
TextShield는 이러한 한계를 보완하는 두 가지 차별화된 기능을 갖추고 있다. 문서·문단·문장 단위의 3계층 분석으로 문서 전반 AI 개입 경향을 먼저 파악하고, 문단별 개입 밀도를 분석한 뒤 의심 문장을 하이라이트로 표시한다. 이를 통해 검토자는 어느 부분에 AI가 얼마나 개입했는지를 입체적으로 파악할 수 있다. 개입 수준은 표현을 가볍게 다듬은 'Light Edit', 윤문 단계의 'Polish', 실질적 재작성 수준인 'Rewrite'의 3단계로 분류한다. 학술지는 이를 바탕으로 교정 수준 AI 활용은 허용하고 재작성에는 소명을 요구하는 등 자체 기준에 따라 검토할 수 있다.
TextShield는 갈수록 문제가 되는 허위 문헌 인용에 대응하기 위해, 참고문헌 목록을 본문과 자동으로 대조해 존재하지 않는 문헌을 찾아내는 거짓 서지정보 탐지 기능을 제공한다. 실제로 존재하지 않는 문헌을 참고문헌으로 기재하는 사례는 전 세계적으로 증가하고 있다.
지난 5월 국제 의학 학술지 '란셋'에 실린 컬럼비아대 간호대학 연구진 조사에 따르면 2023년 이후 생의학 논문 250만편 가운데 2810편에서 가짜 인용 4046건이 발견됐고, 그 비율은 2023년 논문 1만편당 4건에서 2026년 초 57건으로 뛰었다.
교육부·한국연구재단과 과학기술정보통신부가 올해 잇달아 생성형 AI 연구윤리 가이드를 내놓고 AI 사용 여부와 활용 내용을 밝히도록 권고했지만 심사 과정에서 이를 검증할 마땅한 수단은 없는 실정이라 TextShield 도입이 이러한 문제를 해결하기 위한 초석이 될 것으로 기대한다.
그 외 온프레미스 분석 환경을 지원해 연구자가 미게재 원고의 외부 유출 우려 없이 학술지 투고 전 AI 개입 정도를 자가 점검할 수 있다. 국·영문을 모두 지원하므로 해외 학술지 투고용 영문 원고에도 활용할 수 있다.
김형진 메타크라우드 대표는 “AI가 사람보다 더 사람처럼 글을 써내는 시대에는 검증 방식도 달라져야 한다”머 “TextShield는 단편적인 확률 수치로 AI 작성 여부를 단정하는 도구가 아니라 검토자가 더 정교하게 판단할 수 있도록 분석 근거를 제공하는 도구며 앞으로 학술 논문 검토의 새로운 표준으로 자리 잡도록 발전시켜 나가겠다”고 밝혔다.
메타크라우드는 이번 계약을 시작으로 국내 학술지는 물론 해외 영문 학술지로 공급을 확대할 계획이다. 학술지 규모와 연간 투고 편수에 따른 요금제를 마련해 소규모 학회도 부담 없이 도입할 수 있도록 했다. 도입을 검토하는 학술지와 학회는 메타크라우드 홈페이지 문의처를 통해 데모 이용을 신청할 수 있다.
김현민 기자 minkim@etnews.com
