첫 범용 인공지능(AGI)으로 평가되는 'GPT-6 아스트라'를 출시한 오픈AI의 최고 과학자가 급속한 인공지능(AI) 발전을 경계했다.
7일(현지시간) 블룸버그에 따르면 야쿠브 파초키 오픈AI 최고과학자는 AI의 급속한 발전이 가져올 결과에 대해 우려하며 인간이 이해하고 통제하기 어려워지고 있다고 경고했다.
또 개발자들이 AI를 인간의 이익에 부합하도록 유도하거나 개발 속도를 늦출 수도 있다고 예상했다. AI기업·연구소 등에서 안전상 이유로 자발적으로 개발 속도를 늦춰야 한다는 입장이다.
파초키 최고과학자는 “안전 기준이 확립될 때까지 자발적인 속도 늦추기가 일반화되기를 바란다”고 촉구했다.
AI 모델이 비교적 짧은 시간 내 컴퓨터를 작동시키고, 인간 또는 다른 AI 시스템과 협업하며, 연구 프로젝트를 수행할 수 있게 됐다고 평가했다. 머지않아 AI가 인간 개입 없이 스스로 발전할 수 있게 되는 '재귀적 자기 개선'이 일어날 것이라고 내다봤다.
파초키 최고과학자는 “지금은 극도의 주의가 필요한 시점”이라며 “AI의 지속적인 급속한 발전이 가져올 결과에 대해 아무도 대비하지 못하고 있다는 점이 우려스럽다”고 지적했다.
또 개발자들에게 AI가 인간의 이익에 더욱 부합하도록 유도하거나 필요에 따라 미래 개발 속도를 늦추는 두 가지 선택지가 있다고 강조했다. 두 가지 선택지 중에 공통의 안전장치가 마련될 때까지 자발적으로 개발 속도를 늦추기를 기대했다.
이번 발언은 AI업계 경영진의 전반적인 비관론과 일맥상통하는 것으로 풀이된다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 모든 신입사원 일자리의 절반을 대체할 수 있다고 경고한 바 있다.
샘 올트먼 오픈AI CEO 역시 과거 비슷한 예측을 내놨지만 지난주 블룸버그TV와 인터뷰에서 오히려 AI업계가 인류에 가져다줄 잠재적 이점을 제대로 알리지 못했다고 지적했다.
이러한 우려 속에 기업들은 보다 강력한 모델 개발에 박차를 가하고 있다. 오픈AI·앤트로픽·구글 등 빅테크를 비롯해 각국 주요 AI기업들이 짧게는 1~2달, 길게는 3~6달 주기로 차세대 모델을 공개하고 있다.
젠슨 황 엔비디아 CEO는 오픈AI 아스트라 출시 관련 X에 “AGI 시대가 도래했다”고 선언했다. 인간보다 뛰어난 AI가 탄생했다고 정의한 것이다.
박종진 기자 truth@etnews.com
