오픈AI·앤트로픽·구글 “AI 에이전트 확산에 보안·권한 관리 문제 커져”

29일(현지시간) 미국 샌프란시스코 포트메이슨센터에서 열린 깃허브 연례 개발자 행사 '깃허브 유니버스 2026' 패널토론 현장. (왼쪽부터) 에이프릴 레너드 깃허브 코파일럿 엔지니어링 부사장, 앤젤라 장 앤트로픽 클로드 플랫폼 제품 총괄, 로한 바르마 오픈AI 엔터프라이즈 에이전트 제품 리드, 리처드 세로터 구글 클라우드 수석디렉터 겸 수석 에반젤리스트. [사진=현대인 기자]

오픈AI와 앤트로픽, 구글 등 인공지능(AI) 선도기업들이 AI 에이전트 확산으로 기업의 보안·권한 관리 문제가 커지고 있다고 입을 모았다. AI가 코드 작성부터 업무 실행까지 자율적으로 수행하면서 에이전트별 접근 권한을 통제하고 실행 과정을 추적하는 기술의 중요성이 커지고 있다고 강조했다.

이들 기업은 29일(현지시간) 미국 샌프란시스코 포트메이슨센터에서 열린 깃허브 연례 개발자 행사 '깃허브 유니버스 2026' 패널토론에서 AI 에이전트의 신원·권한 관리와 운영 인프라 확보를 주요 과제로 제시했다.

리처드 세로터 구글 클라우드 수석디렉터 겸 수석 에반젤리스트는 여러 AI 에이전트가 하나의 서비스 계정을 공유하는 방식의 위험성을 경고했다. 서비스 계정에 부여된 과도한 권한이 여러 에이전트에 그대로 적용될 수 있기 때문이다.

그는 “여러 에이전트가 하나의 서비스 계정으로 실행되고 있다면 지금 당장 그 문제를 해결해야 한다”면서 “권한이 지나치게 많이 부여돼 있을 가능성이 크다”고 말했다.

그러면서 “에이전트별 신원 관리와 실행 과정 추적 등 AI가 예상과 다른 결정을 내렸을 때 어떤 과정을 거쳤는지 파악하고 재현할 수 있는 체계가 필요하다”고 조언했다.

앤트로픽도 에이전트 확산에 따른 신원 확인과 권한 관리의 중요성을 언급했다.

앤젤라 장 앤트로픽 클로드 플랫폼 제품 총괄은 “에이전트 시스템을 구축하면서 신원 확인과 권한 관리, 관측 가능성 등 새로운 문제가 많이 나타나고 있다”면서 “AI 에이전트에 더 많은 업무를 맡기려면 실행 과정을 관찰하고 신뢰성을 확보할 수 있는 인프라가 뒷받침돼야 한다”고 강조했다.

오픈AI는 AI 에이전트 시스템의 진단·개선 역량을 강조했다.

로한 바르마 오픈AI 엔터프라이즈 에이전트 제품 리드는 “시스템 전체가 원하는 코드나 제품을 만들어내지 못했을 때 왜 그런 일이 발생했는지 진단하고 개선해야 한다”면서 “AI 에이전트가 단순한 개발 보조 도구를 넘어 업무를 자율적으로 처리하는 시스템으로 발전하면서 개발 속도뿐 아니라 안정적인 운영을 위한 기반 기술 확보가 중요해지고 있다”고 말했다.

샌프란시스코=현대인 기자

현대인 기자 modernman@etnews.com