인공지능(AI) 기업 앤트로픽이 자사 AI 모델을 사이버 공격, 여론 조작 감시, 생물학 무기 연구 등 악의적인 목적으로 활용하려 한 시도들을 차단했다고 밝혔다.
10일(현지시간) AP 통신은 앤트로픽이 이날 발표한 세 번째 AI 오용 관련 보고서를 인용해 “스파이웨어 업체, 정치적 목적을 가진 개인, 국가 지원 선전 단체 등 다양한 주체로부터 수집된 신종 위협 활동을 차단했다”고 보도했다.
보고서에 따르면 앤트로픽은 지난해 12월부터 올해 8월까지 감지된 여러 위협 사례 중 생물무기 개발로 이어질 수 있는 위험 시도를 적발했다.
대표적으로 AI 모델 '클로드(Claude)'에 모기 매개 바이러스인 치쿤구니야 바이러스의 전염성과 면역 회피 성능을 높이는 '기능 획득 연구' 관련 자금 지원 신청서 작성을 요청한 사례가 있었으나 이를 즉시 차단했다고 한다. 해당 연구는 백신 개발에도 쓰일 수 있지만 병원체의 위험성을 키우는 '이중 용도(Dual-use)' 위험이 존재한다.
또한 앤트로픽은 소셜 미디어(SNS)에서 일반인 계정으로 위장해 동일한 정치적 견해를 유포하려 한 9개국(러시아, 이란, 터키, 페르시아만 지역, 남아시아, 아프리카, 유럽 등) 연계 영향력 행사 작전도 사전에 감지해 차단했다. 소셜 미디어 플랫폼과 달리 AI 단계에서는 작전이 실행되기 전 구축 단계부터 위협을 포착할 수 있다는 설명이다. 타사 모델에 기능을 무단 복제하려는 산업 스파이형 데이터 추출 공작도 적발됐다.
앤트로픽은 AI 성능이 급격히 향상됨에 따라 기술적 지식이 부족한 개인도 정교한 사이버 위협을 일으킬 수 있는 환경이 조성되었다고 지적했다.
지난해 출시된 클로드 오푸스 4나 소넷 4.5 등 구형 모델은 위험 연구를 지원할 수준에 미치지 못해 초보자의 무기 재현 방지에 초점을 맞췄으나, 최신 모델은 복잡한 과학 연구를 지원할 수 있어 위험도가 커졌다.
이에 따라 최신 모델인 클로드 페이블 5 등에는 생물학 연구 쿼리 접근을 엄격히 제한하는 강력한 안전장치를 추가 적용했다고 밝혔다.
아울러 앤트로픽은 발견된 악성 코드와 프롬프트 일부를 공개하며 각국 정부와 AI 경쟁사들에 공동 방어체계 구축을 촉구했다.
이번 보고서는 앤트로픽의 한 연구원이 AI 위험성을 경고하며 사임한 지 이틀 만에 발표됐다는 점에서 눈길을 끈다. 해당 연구원은 “AI가 인류의 통제를 벗어나 2020년대 말까지 인류를 위협할 수 있다”는 우려를 제기하며 회사와 경쟁사들의 불성실한 대응을 비판했다.
이와 함께 학계에서도 AI 기업들의 자율 규제 방식에 한계가 있다는 지적이 나온다. 코넬대학교 존 틱스턴 교수는 민주적 검증이나 사회적 합의 없이 AI 기업이 독자적으로 안전 기준을 결정하는 구조적 문제점을 꼬집으며 정부 차원의 규제 필요성을 강조했다.
서희원 기자 shw@etnews.com
