오픈AI가 최근 차세대 인공지능(AI) 모델 'GPT-6 아스트라'를 공개하며 '범용인공지능(AGI) 시대'를 선언했다. 인간이 일일이 지시하지 않아도 스스로 판단해 컴퓨터와 웹을 조작하고 장시간 복잡한 과제를 수행하는 능력이 크게 향상되면서 이용자들 사이에서도 “AI가 한 단계 달라졌다”는 평가가 나온다.
아스트라를 비롯한 최신 프런티어 AI 모델의 급격한 능력 향상과 잇따른 안전사고는 '속도조절론'에도 불을 붙였다. AI 능력의 발전 속도를 안전·통제 기술이 따라가지 못할 수 있다는 우려다. 세계 최고 수준 AI를 개발하는 기업 수장들까지 프런티어 AI의 개발 속도를 조절해야 한다는 주장에 가세했다.
한국의 고민은 복잡하다. 미국·중국을 추격해야 하는 상황에서 개발 속도를 늦출 여유가 없지만, 향후 안전성 평가와 통제 능력이 AI 시장의 새로운 경쟁 기준이 될 가능성에도 대비해야 한다. AI 성능 향상에 속도를 내면서 안전·통제 기술을 동시에 끌어올리는 '안전한 가속' 전략이 필요해졌다.
◇“AGI 시대 왔다” 아스트라 등장…글로벌 AI 수장들 '속도조절론'
최근 논쟁의 배경에는 AI 능력의 가파른 발전이 있다. 오픈AI가 이달 초 공개한 최신 모델 'GPT-6 아스트라'는 단순히 답변의 정확도가 높아진 것을 넘어 컴퓨터와 브라우저를 직접 조작하고 외부 도구를 사용해 복잡한 과제를 장시간 수행하는 능력이 크게 향상됐다.
아스트라 출시 이후 이용자 반응에서도 변화는 감지된다. 해외 개발자 커뮤니티에서는 “세부적인 지시 없이 복잡한 문제를 해결한다”거나 “전문가와 대화하는 느낌”이라는 평가가 나왔다. 복잡한 문제를 알아서 판단하고 장시간 동안 작업을 이어가는 능력이 크게 향상됐다는 평가다.
아스트라는 처음 접하는 문제에서 규칙을 찾아 해결하는 능력을 측정하는 'ARC-AGI-3' 평가에서 99.9%, 고난도 수학 문제를 평가하는 '프론티어매스 티어4'에서는 97.6%를 기록했다. 인터넷에서 인간임을 증명할 때 사용되는 캡차 게임 '로봇이 아닙니다' 48단계도 모두 통과해 '인간 증명서'를 획득하기도 했다.
능력이 높아진 만큼 위험의 수준도 달라졌다. 오픈AI는 '아스트라'의 사이버보안 능력을 자체 평가 기준에서 처음으로 최고 단계인 '위험(critical)' 등급으로 분류했다. AI가 사람의 지시 없이도 시스템의 제로데이 취약점을 찾아내고 실제 공격까지 수행할 수 있는 수준을 의미한다.
AI 능력 발전 속도와 안전장치 사이 간극에 대한 우려는 글로벌 AI 업계의 '속도조절론'으로 번졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 “프런티어 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다”고 주장했다. 독립적인 외부 안전 평가자가 프런티어 AI 기업 내부 시스템에 접근해 안전성을 검증하고, 주요 AI 개발사와 국가들이 공통 안전기준을 마련하는 방안도 제안했다. 샘 올트먼 오픈AI CEO와 xAI 창립자 일론 머스크, 데미스 허사비스 구글 딥마인드 CEO 등도 공감을 표시했다.
다만 실제 개발 경쟁에서 속도조절이 가능하느냐는 별개의 문제다. 미국과 중국이 AI 패권을 놓고 경쟁하는 상황에서 어느 한쪽만 속도를 늦추기 어려운 '죄수의 딜레마'에 빠질 수 있기 때문이다.
◇“한국은 아직 추격자”…'감속' 대신 성능·안전 함께 높여야
한국의 상황은 또 다르다. 프런티어 AI 경쟁을 선도하는 미국과 달리 한국은 아직 기술 격차를 좁혀야 하는 추격자 입장이다. 한국은 '독자 AI 파운데이션 모델' 개발 사업을 진행하는 동시에 글로벌 최상위 수준의 프런티어급 AI 모델 개발을 위해 내년 예산으로 4조7000억원을 투입하기로 했다.
그렇다고 안전을 기술 추격 이후의 문제로 미뤄서도 안 된다는 데 전문가들의 의견이 모인다. 신뢰할 수 있는 안전한 모델만이 시장에서 살아남는 변곡점이 올 것으로 예상되는 만큼 개발과 동시에 안전장치를 구축해야 향후 유리한 위치를 차지할 수 있다는 것이다.
김명주 AI안전연구소장은 “우리는 아직 속도를 늦출 만큼 실력이 올라와 있지 않다”며 “독자 AI 파운데이션 모델을 비롯해 국가 AI 프로젝트를 최대한 빨리 성공시키는 것이 우선”이라고 말했다. 그러면서도 “안전 문제는 처음부터 고려해야 한다”며 국내 기업이 새로운 모델과 에이전트를 개발할 때부터 안전성 평가를 적용하고 관련 가이드라인과 벤치마크를 함께 갖춰야 한다고 강조했다.
박지환 씽크포비엘 대표는 현재 AI 개발 경쟁을 자동차에 비유해 “우리는 액셀러레이터만 만들고 브레이크나 에어백은 만들지 않고 있다”고 지적하면서 “좋은 에어백과 안전벨트가 있으면 더 빨리 달릴 수 있고 결론적으로 목적지에도 더 빨리 도착할 수 있다”고 강조했다. 안전장치가 갖춰지면 문제가 발생한 뒤 개발·서비스를 중단하는 비용을 줄일 수 있다는 설명이다.
그는 “안전장치는 단순한 AI 윤리원칙이나 규제 마련에 그쳐서는 안 된다”면서 “AI가 허용된 권한을 벗어나는지 감시하는 기술부터 데이터 편향 분석, 위험 행동 감지, 문제가 발생했을 때 AI를 안전하게 중단시키는 기술 등 기술이 함께 발전해야 한다”고 설명했다.
향후 프런티어 AI를 둘러싼 개발 제한이나 안전 기준 논의가 본격화될 가능성에도 대비가 필요하다. 최근 미국 AI 기업들이 잇달아 속도조절과 제3자 안전평가 필요성을 제기하는 것 역시 미국이 글로벌 AI 안전·규제 체계까지 주도하려는 '사전 포석'으로 볼 수 있다는 것이다.
김 소장은 “고성능 AI가 사이버 공격뿐 아니라 생화학무기 개발 등에 악용될 가능성이 커지면 주요국 사이에서 일정 수준 이상 AI 능력 개발을 제한하거나 상호 검증하는 핵확산금지조약(NPT)과 유사한 논의가 나타날 수 있다”면서 “한국이 단순히 규칙을 적용받는 국가에 머물러서는 안 되며 그 논의를 주도하는 국가가 되어야 한다”고 강조했다.
프런티어 AI를 직접 개발하는 것뿐 아니라 이를 도입·활용하는 측면에서도 안전 대응을 서둘러야 한다는 지적도 나온다.
최대선 숭실대 AI안전성연구센터장은 “우리는 이미 해외 프런티어 AI를 사용하고 있기 때문에 에이전트의 자율성으로 인한 사고는 국내에서도 얼마든지 일어날 수 있다”면서 “개발 관점에서는 아직 한국이 속도를 조절할 상황은 아니지만, AI를 도입하고 적용하는 과정에서는 위험을 관리하기 위한 가이드라인을 마련하고 적용해야 한다”고 말했다.
정현정 기자 iam@etnews.com
