인공지능(AI) 기술이 빠른 속도로 고도화하면서 이를 개발하고 안전성을 검증하는 연구진 내부에서도 심리적 부담이 커지고 있다는 지적이 나왔다. AI가 사회에 미칠 잠재적 위험을 직접 연구하는 과정에서 불안과 소진을 호소하는 사례가 잇따르고 있다고 영국 파이낸셜타임스(FT)가 22일(현지시간) 전했다.
FT에 따르면 최첨단 AI 모델의 안전성을 외부에서 검증하는 영국 AI안전연구소(AISI) 내부에서 여러 직원이 정신적인 어려움을 이유로 휴직하거나 전문 상담을 받은 것으로 알려졌다.
관계자 4명은 이들이 차세대 AI 모델의 공개를 앞두고 이어지는 강도 높은 검증 작업뿐 아니라, 새로운 기술이 예상보다 빠르게 확산하고 성능 역시 급격하게 높아지는 상황에 부담을 느끼고 있다고 전했다. 이 과정에서 의욕 저하와 소진을 경험하는 직원들도 있다는 설명이다.
이 같은 고민은 AISI에만 국한되지 않는다. 앤트로픽과 오픈AI, 구글 딥마인드 등 주요 AI 기업에서도 기술의 안전한 활용을 둘러싼 내부 우려가 제기되고 있다.
구글 딥마인드의 한 직원은 AI를 보다 안전하게 개발하는 작업이 사실상 해결하기 어려운 과제처럼 느껴진다고 말했다. 그는 지난 4월 미국 국방부의 기밀 군사 관련 업무에 구글 AI가 활용되는 문제를 두고 직원들의 반발이 일었던 사례를 거론하며, AI 개발 업무 자체가 향후 기술이 어떤 방식으로 활용될지 예측하기 어렵다는 점에서 정신적인 위험 요소를 안고 있다고 지적했다.
이어 일부 구성원들이 미래에 대한 불확실성 속에서 회사를 떠나거나 정신적인 문제로 휴가를 내고 있다며, 자신이 기술의 통제권을 잃어가고 있거나 사회에 실제 피해를 줄 수 있는 시스템을 만들고 있다는 생각에 빠지는 경우도 있다고 전했다.
AI 업계에서는 특히 전력망과 군사·분쟁 지역 등 민감하고 위험성이 높은 영역에 AI가 투입되는 상황을 우려하는 목소리가 나온다. 기술 발전 속도에 비해 기업 내부의 통제 장치나 정치권 차원의 대응책이 충분히 마련되지 않았다는 이유에서다.
AISI에서 근무했던 한 전직 연구원은 최근 AI 모델이 기존에 사람이 발견하지 못했던 소프트웨어 취약점을 찾아내거나 자연적으로 발생하기 어려운 바이러스를 만들어내는 등 과거와 비교하기 어려운 수준의 작업까지 수행하고 있다고 설명했다. 특히 사이버보안과 생물안보 분야 연구자들이 이러한 변화에 큰 충격을 받고 있다는 것이다.
그는 AI 기술이 시장과 사회에 공개되는 과정에 상당한 위험성이 내재돼 있다는 우려를 나타내면서, 과연 이를 제어할 수 있는 장치가 존재하는지에 대한 의문이 계속 제기되고 있다고 말했다.
FT는 지난 2년 동안 오픈AI와 앤트로픽, 딥마인드 등 미국의 주요 AI 기업 3곳에서 안전 문제에 대한 우려를 표명한 뒤 회사를 떠난 고위급 연구자가 12명을 웃돈다고 전했다.
최근에도 관련 사례가 이어졌다. 이달 초 앤트로픽의 AI 개발자 제이컵 콕슨은 회사를 떠나면서 앤트로픽과 오픈AI가 기술 개발을 위해 지나치게 큰 위험을 감수하고 있다는 취지의 경고를 내놨다.
앤트로픽에서 AI 안전성 연구를 담당했던 므리난크 샤르마 역시 올해 2월 퇴사했다. 그는 퇴직 후 시를 공부하겠다고 밝히며 동료들에게 보낸 편지에서 세계가 위험한 상황에 놓여 있으며, 조직이 내세우는 가치에 맞춰 실제 행동하는 것이 얼마나 어려운지를 반복해서 경험했다고 적었다.
오픈AI 출신 히에우 팜도 올해 회사를 떠나 베트남으로 돌아갔다. 그는 고도로 지능적인 AI를 만드는 과정에는 상당한 대가가 따른다며 정신건강 악화 문제가 실제로 존재하고 있으며 심각하고 두려운 문제라고 지적했다.
이원지 기자 news21g@etnews.com
