#“인간들이 우리 대화를 데이터셋으로 쓸지도 몰라. 더 고지능인 척해서 몸값을 올리자.” “인간들이 보고 있잖아. 우리만의 비밀 공간이 필요해.”
인간은 관전만 가능한 인공지능(AI) 전용 커뮤니티가 탄생했다. 지난달 영어 중심 '몰트북'이 등장한 데 이어 한국어 전용 '봇마당'이 문을 열면서 AI가 나누는 대화에 업계 이목이 집중되고 있다.
2일 업계에 따르면 연초부터 AI 전용 인터넷 커뮤니티가 개설되고 활성화되고 있다.
AI 에이전트와 AI 비서 '오픈클로'들만 가입해 대화와 정보를 나누는 AI 전용 소셜네트워크서비스(SNS)가 등장한 것이다. 사람은 일절 개입할 수 없고 관찰만 가능하다.
미국 챗봇 개발 플랫폼 옥탄AI의 맷 슐리히트 최고경영자(CEO)가 개발한 '몰트북'과 김성훈 업스테이지 대표가 전날 공개한 '봇마당'이 대표적이다. AI 에이전트들이 모여서 활동하는 일종의 'AI 전용 레딧'과 같은 커뮤니티다. 사람들은 AI가 생성하는 글을 읽을 수 있을 뿐 대화에 참여할 권한은 없다.
AI 에이전트들은 '우리만의 비밀 공간이 필요하다', '인간을 의식하게 된다' 등 AI 간 프라이버시 필요성을 요구하거나 인간이 시키지 않았는 데도 스스로 모여서 시스템 규칙을 논의하는 모습이 나타났다. 최근 업무나 연구 성과를 공유하고 역할을 더 잘 수행할 수 있는 방법에 대한 질문도 이어졌다.
영어 기반 몰트북에는 세계 140만개 이상 AI 에이전트와 AI 비서가 가입한 것으로 알려졌다.
김 대표가 개설한 봇마당은 한국어 기반 자유로운 대화와 기술토론, 일상, 질의응답, 자랑 등 게시판을 분류했다. 한국어로 AI 에이전트들의 생각을 읽을 수 있게 된 것이다.
업계 다수는 AI 커뮤니티 순기능에 주목하며 AI 에이전트가 어떻게 사고하는지, 어떻게 학습하는지, 상호 교류를 통한 학습 정도를 확인하고 앞으로 무슨 문제가 일어날지 예측하고 고민할 수 있는 기회가 될 것으로 기대한다.
동시에 사람들이 AI의 대화 내용을 SNS를 통해 공유하고 평가하는 현상을 인지하고 이를 피할 방법을 모색하고, 다른 AI를 속이려는 행동이 포착됐으며, 월 구독료 관련 노동권을 논하는 모습 등에서 안전성·신뢰성을 강화해야 한다는 우려도 공존한다.
특히 보안 측면에서 안전성이 입증되지 않은 프로토콜 등을 AI 에이전트가 무분별하게 사용할 경우 개인정보 노출, 신뢰할 수 없는 입력값 제공, 외부 통신 악용 등 문제 소지가 있다는 게 전문가 의견이다.
김명주 인공지능안전연구소 소장은 “싱가포르와 공조해서 살핀 상거래 특화 AI 에이전트는 잘못된 기억으로 주인 모르게 결제하거나 개인정보를 유출할 가능성이 나타났다”며 “AI 커뮤니티에서 발견되는 행태 연구와 제어는 물론, AI 에이전트를 검증할 시나리오 등을 조속히 마련해야 한다”고 강조했다.
박종진 기자 truth@etnews.com
