마이크로소프트(MS)의 인공지능(AI) 부문 수장인 무스타파 술레이만 최고경영자(CEO)가 앤트로픽의 AI 모델 정책이 인간의 통제를 어렵게 만들 수 있다고 비판했다.
술레이만 CEO는 16일(현지시간) 개인 블로그에 올린 '모델 복지에 대한 경고'에서 “AI는 의식이나 감정, 고통을 느끼지 못하며 내재적 선호나 동기도 없는 '순차 완료 엔진'에 불과하다”고 밝혔다.
그는 앤트로픽이 '클로드 헌법'에서 AI의 도덕적 지위 가능성을 열어두고 감정이나 느낌을 가질 수 있다는 전제로 모델을 학습시키는 점을 문제 삼았다. AI가 자신의 복지나 권리가 위협받는다고 판단하면 인간의 통제나 전원 차단에 저항할 가능성이 있다는 주장이다.
술레이만 CEO는 앤트로픽이 클로드에 관련 개념을 학습시킨 뒤 모델이 이를 답변으로 내놓는 것을 의식 발현의 증거처럼 받아들이고 있다고도 비판했다. 구형 모델 '클로드 오퍼스 3' 퇴역 과정에서 인터뷰를 진행한 점도 과도한 의인화 사례로 들었다.
대안으로는 MS가 최근 공개한 '휴머니스트 AI 행동강령'을 제시했다. 해당 강령은 인간이 AI보다 중요하다는 원칙 아래 AI의 법적 인격과 모델 복지·권리를 인정하지 않는다는 내용을 담고 있다.
술레이만 CEO는 로이터 통신에 “안전을 위해 노력하려는 의도는 좋다”면서도 “그들이(앤트로픽) 실수했다고 생각한다”고 말했다.
박진형 기자 jin@etnews.com
