찰스 3세 영국 국왕이 글로벌 인공지능(AI)의 급격한 발달에 따른 인류 존립의 위험성을 경고하고 인간의 통제권을 지켜야 한다고 AI 업계에 촉구했다.
17일(현지시간) 찰스 3세는 스코틀랜드 덤프리스하우스에서 연 회의에서 젠슨 황 엔비디아 최고경영자(CEO), 딥마인드 공동 창업자인 데미스 허사비스 구글 최고과학자, 새러 프라이어 오픈AI 최고재무책임자(CFO) 등을 맞이했다고 로이터 통신과 BBC 방송이 보도했다.
찰스 3세는 개회사에서 “AI의 발전, 그 본질과 속도는 흥미롭고도 그만큼 깊이 우려스럽다”며 “우리의 인간성은 신성함을 유지해야 하고, 대중은 우리가 우리의 운명, 영혼에 대한 통제를 잃지 않을 거란 확신을 원한다”고 말했다.
그는 개발자들이 점점 더 많이 '생명을 앗아갈 수도 있는' AI의 어두운 측면을 경고하고 있다고 언급하면서 “그런 기술이 잘못된 손에 들어가 파괴적일 수 있는 방식으로 사용될 존립적 위험성을 살펴볼 시급성이 있다”고 짚었다.
이번 회의는 업계에서 AI 감속을 촉구하는 목소리가 잇따라 나온 가운데 열렸다. 다리오 아모데이 앤트로픽 CEO, 샘 올트먼 오픈AI CEO 등이 속도조절론을 제기하거나 지지했다. 도널드 트럼프 미국 대통령이 속도조절론을 비판하는 등 정치권에서도 논쟁이 벌어졌고, 선두주자들이 감속론을 꺼내든 배경에는 업계 우위 유지를 위한 것이라는 의심도 제기됐다.
이날 회의에 참석한 젠슨 황 CEO는 아모데이 CEO 등과는 온도 차가 있는 언급을 내놓았다. 황 CEO는 AI 개발 규제에 반대하는 입장이다.
그는 회의에서 “AI를 구축하는 우리는 시스템을 엄격하게 테스트해야 한다. 충분히 안전하지 않을 때는 이를 보류해야 한다”며 개발자 스스로 책임을 지는 '책임있는 낙관주의'를 주장했다.
황 CEO는 취재진에게도 “AI는 소셜미디어(SNS)와 매우 다르다”며 “SNS는 제품이지만 AI는 모든 제품, 모든 기술 뒤에 있는 기술이므로 (AI 기술이 아닌) 제품을 규제하라”고 말했다고 폴리티코 유럽판이 전했다.
허사비스 구글 최고과학자는 이날 회의에서 AI에 관한 주요 근심거리는 자율 시스템을 '나쁜 행위자'가 악용해 이 시스템이 잘못된 행동을 하는 것이라고 지적했다고 블룸버그통신이 전했다.
강성전 기자 castlekang@etnews.com
