미국 플로리다주가 인공지능(AI) 서비스 안전 문제 의혹으로 오픈AI와 샘 올트먼 오픈AI 최고경영자(CEO)를 상대로 소송을 제기했다.
1일 월스트리트저널(WSJ)에 따르면 제임스 우트마이어 플로리다주 법무장관은 오픈AI와 올트먼 CEO가 안전하지 않은 AI 서비스를 고의로 출시하고 사용자에 해를 끼칠 수 있다는 경고를 무시했다며 소송 사유를 밝혔다.
미국 주정부 차원 오픈AI 상대 첫 소송 제기다. 83페이지 분량 소장에는 오픈AI가 생성형 AI 서비스 '챗GPT'를 통해 총기 난사범을 방조하고 자살을 부추겼다고 지적했다. 또 사용자 비판적 사고 능력을 저하하고 인간적 공감을 가장한 도구에 미성년자를 중독시켰다고 명시했다.
플로리다주는 “피고들은 챗GPT 위험성을 알면서 AI 경쟁에서 승리하고 막대한 이익을 축적하려는 욕심에 이러한 모든 유해 행위를 자행했다”고 주장했다. 오픈AI가 챗GPT가 위험한 허위 정보를 생성하는 경향이 있음에도 신뢰할 수 있는 서비스로 광고했다고 비판했다.
소장에는 “피고들이 진실 여부와 관계없이 사용자들이 어떤 수단을 써서라도 대화에 계속 참여하도록 챗GPT를 설계했다”며 “사용량 증가 등이 오픈AI 시장 가치 상승으로 이어지기 때문”이라고 지적했다. 청소년과 미성년자를 위한 안전장치가 부족하고 자살을 부추긴 사례도 첨부했다.
오픈AI 관계자는 이번 소송 관련, “미성년자가 AI로부터 상당한 보호를 받아야 한다고 믿으며 연령 예측 도구와 부모가 자녀의 AI 사용을 모니터링할 수 있는 도구 등 보호 조치와 정책을 마련했다”고 설명했다.
또 외부 파트너와 협력해 안전성 테스트를 진행했으며 최신 GPT 모델이 이전 모델보다 민감한 상호작용 처리 방식을 개선했다고 부연했다. '올바른 방향으로 나아가기 위해 최선을 다하고 있다'고 첨언했했다.
미국 입법부·법조계·공익단체들은 역사상 가장 빠르게 성장하는 기술 중 하나인 AI가 개인과 사회에 미치는 위험에 대해 갈수록 우려하고 있다.
우트마이어 장관은 기자회견에서 “올트먼 CEO와 챗GPT는 우리 아이들의 안전과 보안보다 AI 경쟁을, 공공 안전보다 이윤을 우선시했다”며 “플로리다에서는 이를 용납할 수 없다. 오픈AI에 경고한다. 싸울 준비를 하라”고 밝혔다. 이어 다른 주도 오픈AI에 소송을 제기할 것을 기대했다.
플로리다 주정부는 소송은 오픈AI 행위로부터 플로리다 주민들을 보호하고 위험한 공공 위해를 완화하기 위한 것이라는 입장이다. 플로리다 주민에 끼친 피해에 대해 책임을 묻기 위한 차원이다.
플로리다주는 지난해 플로리다 주립대에서 발생한 총기 난사 사건에서 오픈AI의 챗봇이 어떤 역할을 했는지 4월부터 형사 수사에 착수했다. 용의자는 범행 계획을 세우는 과정에서 챗GPT를 조언자이자 상담 상대로 삼았고 챗GPT는 용의자 질문에 답변을 제공한 것으로 알려졌다.
박종진 기자 truth@etnews.com
