인공지능(AI) 챗봇 클로드 개발사인 앤트로픽이 AI가 생성한 텍스트에 보이지 않는 워터마크를 도입한다.
앤트로픽은 자사 AI 모델이 생성한 콘텐츠에 기계로 판독할 수 있는 투명성 표시 장치를 포함하고 있다고 11일(현지시간) 밝혔다.
지난 2일 발효한 유럽연합(EU)의 AI 관련 법에 따른 조치다. 이에 따라 법 시행 시점 이후 출시된 클로드 모델의 AI 결과물에는 워터마크가 적용됐으며, 이전에 출시된 모델도 순차적으로 기능을 추가하고 있다.
워터마크가 추가되더라도 답변의 의미나 품질, 가독성을 해치지 않는다는 게 회사 측의 설명이다. 이러한 워터마크는 텍스트 자체에 융합돼 있기 때문에 다른 곳으로 텍스트를 복사해서 붙여 넣거나 일부 편집을 거치더라도 그대로 유지된다고 앤트로픽은 전했다.
그러나 텍스트 길이가 너무 짧거나, 이용자가 AI로 생성한 문장을 대대적으로 재작성하거나 번역한 경우 등에는 워터마크가 감지되지 않을 수 있다.
또 워터마크가 있다고 해서 반드시 클로드가 해당 글의 원작자임을 뜻하는 것은 아니라고 앤트로픽은 부연했다.
이용자들이 다른 곳에서 쓴 글을 클로드를 통해 교정하거나 번역, 요약한 경우에도 워터마크가 적용될 수 있기 때문이다.
앤트로픽은 텍스트 외에 이미지나 파일 등으로 생성되는 결과물에도 출처 메타데이터를 부착한다고 덧붙였다.
앤트로픽은 이와 같은 투명성 표시를 EU 지역뿐 아니라 클로드를 서비스하는 전 세계에 동일하게 적용하겠다고 밝혔다.
다만 앤트로픽은 이 워터마크를 탐지하는 도구는 아직 공개하지 않고 있다.
앞서 구글도 디지털 워터마크 기술인 '신스ID'를 개발, AI 결과물에 도입한 바 있다.
정현정 기자 iam@etnews.com
