기업 인공지능(AI) 활용이 챗봇을 넘어 업무를 직접 수행하는 에이전트 단계로 확장되면서 보안 체계도 근본적으로 바뀌어야 한다는 제언이 나왔다. AI 에이전트가 사용자의 권한을 바탕으로 여러 업무 도구와 데이터를 스스로 탐색·조합하는 만큼, 기업은 에이전트 정체성, 접근 권한, 데이터 이동 경로를 명확히 통제해야 한다는 것이다.
마얀크 우파디야이 스노우플레이크 최고보안·신뢰책임자(CSTO)는 미국 샌프란시스코 모스콘센터에서 열린 '스노우플레이크 서밋26'에서 진행된 'AI 보안과 거버넌스의 미래' 미디어 세션에서 “에이전틱 세계에서는 모든 것이 예측 불가능하다”며 “에이전트는 목표를 받으면 그 자리에서 경로를 구성하고, 접근 권한이 있는 모든 경로를 시도한다”고 말했다.
이날 미디어 세션에는 우파디야이 CSTO를 비롯해 낸시 왕 원패스워드 최고기술책임자(CTO), 제이슨 메릭 테너블 제품 담당 수석부사장, 마얀크 아가왈 리졸브AI 창업자 겸 CTO가 참석했다.
우파디야이 CSTO는 AI 에이전트 보안 핵심으로 불확실성을 전제해야 한다고 강조했다. 기존 애플리케이션은 어떤 API를 호출하고 데이터가 어디로 이동할지 비교적 예측할 수 있었지만, AI 에이전트는 사용자의 권한을 상속받아 여러 도구를 조합한다. 이 과정에서 한 시스템에서 읽은 데이터를 다른 도구를 통해 외부로 내보내거나, 프로덕션 서비스에 영향을 줄 가능성도 배제하기 어렵다.
그는 “에이전트에 어떤 권한을 줄지 매우 신중하게 생각해야 한다”며 “사람이 가진 권한 가운데 얼마를 에이전트가 상속받는지, 에이전트가 어디까지 행동할 수 있는지 강한 제약을 둬야 한다”고 강조했다.
AI 시스템 보안의 출발점으로 정체성 관리도 강조됐다. 낸시 왕 CTO는 “새로운 에이전틱 세계에서 정체성은 첫 번째 보안 경계”라며 “에이전트가 사람처럼 보이거나 서비스 계정처럼 보일 수 있지만 실제로는 기계처럼 24시간 작동한다”고 설명했다.
AI 도구와 에이전트가 늘어나면서 기업이 살펴야 할 보안 사각지대도 커지고 있다는 지적도 나왔다. 제이슨 메릭 수석부사장은 직원들이 보안조직이 모르는 상태에서 AI를 활용하는 '섀도 AI'를 주요 위험 요인으로 꼽았다. 그는 AI 역시 클라우드나 계정처럼 관리해야 할 보안 대상이라고 설명했다.
우파디야이 CSTO는 모델 컨텍스트 프로토콜(MCP) 서버 확산도 새로운 보안 과제로 제시했다. 그는 “MCP 서버는 AI가 사용자가 접근할 수 있는 여러 업무 도구와 연결되도록 돕지만, 동시에 새로운 보안 과제가 되고 있다”며 “AI 에이전트가 빠른 속도로 여러 도구를 오가며 데이터를 다룰 수 있는 만큼, 누가 어떤 도구에 접근할 수 있는지 직무별로 명확히 관리해야 한다”고 말했다.
샌프란시스코=
강성전 기자 castlekang@etnews.com
