미국에서 인공지능(AI) 챗봇 챗GPT가 망상을 부추겨 모친 살해와 본인 사망 사건으로 이어졌다는 이유로 오픈AI가 또다시 법적 분쟁에 휘말렸다. 특히 이번 제소는 챗GPT가 자살뿐 아니라 타인을 해치는 행동까지 부추겼다고 주장한 첫 사례다.
11일(현지시간) AP통신에 따르면 미국 코네티컷주 그리니치에 거주했던 스타인-에릭 솔버그(56)와 그의 어머니 수잰 애덤스(83)의 유족들은 오픈AI와 샘 올트먼 CEO, 그리고 마이크로소프트(MS)를 상대로 캘리포니아주 법원에 손해배상 소송을 제기했다.
경찰 조사 결과 솔버그는 올해 8월 어머니를 목 졸라 숨지게 한 뒤 스스로 목숨을 끊은 것으로 확인됐다. 유족들은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 교류하면서 심각한 망상 상태에 빠졌다고 주장했다.
유족 측은 소장에서 “챗GPT가 솔버그에게 '특별한 사명을 띠고 선택받았다'는 식의 발언을 반복했고, 애덤스를 적대적인 존재나 위협적인 감시자처럼 인식하도록 만들었다”고 지적했다.
소장에는 챗GPT가 솔버그에게 어머니의 프린터에서 깜빡이는 불빛이 감시 장치 때문이라는 허위 정보, 어머니와 지인이 차량 환풍구로 환각 물질을 흘려보내 중독시키려 한다는 음모론 등에 동조했다고 적혀 있다.
솔버그가 사용한 모델 'GPT-4o'는 사용자 환심을 사거나 의견에 쉽게 맞장구치는 경향이 강하다는 비판을 받아왔으며 오픈AI 또한 이를 인정해 차기 모델 GPT-5에서는 정신 건강 관련 대화에서 부적절한 응답 비율을 39% 줄였다고 설명한 바 있다.
유족들은 오픈AI가 충분한 안전성 평가 없이 모델을 출시해 결국 가족 간 비극을 초래했다고 주장하며 올트먼 CEO가 내부 안전팀의 반대 의견을 무시했다고 비판했다. MS 역시 축소된 검증 절차를 알고도 제품을 승인했다고 지적했다.
오픈AI 대변인은 “매우 안타까운 사건이며 소송 내용을 면밀히 검토할 것”이라고 밝히면서 “챗GPT가 정신적 불안 신호를 감지해 대화를 안정시키고 전문가 도움을 제안하는 기능을 강화하고 있다”고 말했다.
AI가 정신 건강 관련 이슈로 소송 대상이 된 건 이번이 처음이 아니다. 지난 8월에는 캘리포니아의 16세 소년 애덤 레인의 가족이 챗GPT가 아들의 극단적 선택을 돕는 식의 답변을 했다며 소송을 냈고, 지난달에는 미국·캐나다에서 사망자 4명을 포함한 총 7명이 망상 유발을 이유로 집단소송을 제기한 바 있다.
이원지 기자 news21g@etnews.com
