생성형 인공지능(AI)이 문장을 만들어내는 수준을 넘어, 이제는 외부 시스템을 호출하고 업무를 실행하는 AI 에이전트 시대로 진입하고 있다. 문제는 이 에이전트가 단순한 '도구 사용자'가 아니라, API 키·토큰·서비스 계정·워크로드 아이덴티티 등을 통해 실제 업무 권한을 행사하는 존재라는 점이다. 따라서 AI 에이전트 보안은 모델 성능의 문제가 아니라, 아이덴티티와 권한을 어떻게 통제하느냐의 문제로 봐야 한다.
전통적인 IAM(Identity and Access Managemen·계정 관리)과 PAM(Privileged Access Management·특권 관리) 체계는 주로 사람 사용자를 중심으로 설계돼 왔다. 그러나 오늘날 기업 환경에서는 서비스 계정, OAuth 클라이언트, 클라우드 워크로드 아이덴티티, 자동화 봇, AI 에이전트가 사람보다 더 많은 권한 경로를 만들고 있다. 이런 환경에서 '식별(discovery)'만으로는 충분하지 않고, 실제로 그 아이덴티티가 어떤 권한을 갖고 있으며 어디까지 도달할 수 있는지를 통제해야 한다. 결국 핵심은 아이덴티티를 목록으로 만드는 것이 아니라, 권한을 줄이고, 소유자를 정하고, 필요 없는 아이덴티티를 제거하는 것이다.
AI 에이전트의 본질적 위험은 자율성 자체가 아니라, 자율성이 권한과 결합될 때 발생한다. 에이전트는 사용자 요청을 해석하고 계획을 세운 뒤, 데이터베이스 조회, 시스템 설정 변경, 문서 생성, 결재 요청, 외부 API 호출까지 수행할 수 있다. 이때 권한 경계가 느슨하면 에이전트는 본래 목적을 넘어서는 시스템에 접근하거나, 예상하지 못한 방식으로 민감정보를 처리할 수 있다.
또 하나의 문제는 연쇄 확산이다. 하나의 에이전트가 과도한 권한을 가지면, 그 권한은 다른 서비스와 연결된 토큰·시크릿·오케스트레이션 경로를 통해 더 넓게 확산될 수 있다. 특히 SaaS 간 연결, 클라우드 자동화, DevOps 파이프라인, RPA, 내부 업무봇이 얽힌 환경에서는 한 번 부여된 접근이 장기간 방치되기 쉽다. 단순한 가시성 확보만으로는 공격을 막을 수 없고, 공격이 일어나기 전에 권한을 줄여 두는 사전 통제가 필요하다.
AI 에이전트 거버넌스에서 가장 먼저 필요한 것은 소유권을 명확하게 하는 것이다. 모든 비인간 아이덴티티는 특정 개인 또는 팀의 책임 아래 있어야 하며, 누가 생성했고 누가 승인했으며 누가 운영 중인지가 분명해야 한다. 소유자가 없으면 권한 검토도, 위험 판단도, 폐기도 이뤄지지 않는다. AI 에이전트를 포함한 비인간 아이덴티티에 대해 '주인을 정하고, 남는 권한을 줄이고, 더 이상 필요 없는 계정을 종료하는 것'을 핵심 관리 원칙이 되어야 하는 것이다.
두 번째는 최소 권한 원칙(Least Privilege) 이다. 에이전트는 현재 작업을 수행하는 데 필요한 권한만 가져야 하며, 읽기와 쓰기, 조회와 수정, 내부와 외부 시스템 접근을 엄격히 분리해야 한다. 가능하다면 영구 권한을 주지 말고, 업무 수행 시점에만 짧게 부여하는 적시 접근 제어(Just-in-Time) 모델을 적용하는 것이 바람직하다.
세 번째는 즉시 회수와 정리다. 업무가 끝난 뒤에도 권한이 남아 있으면 그것은 생산성이 아니라 공격면이 된다. 토큰과 키는 주기적으로 회전하고, 더 이상 사용되지 않는 서비스 계정과 에이전트는 폐기돼야 한다. 이 지점을 비인간 아이덴티티(NHI:Non-Human Identity) 거버넌스의 핵심으로 보며, 단순히 보이는 아이덴티티를 관리하는 수준을 넘어 실제로 권한을 줄이고 오래된 아이덴티티를 정리해야 한다.
AI 에이전트 보안은 정책 선언만으로 끝나지 않는다. 실제 환경에서는 권한 부여, 실행, 모니터링, 감사의 전 과정에 기술 통제가 필요하다. 먼저 에이전트가 사용할 수 있는 도구 목록을 승인 기반으로 제한해야 하며, 비인가 도구 호출은 차단해야 한다. 또한 각 호출에 대해 파라미터 검증과 출력 필터링을 적용해, 민감정보 유출이나 명령 주입 같은 위험을 줄여야 한다.
운영 측면에서는 런타임 모니터링이 중요하다. 에이전트가 평소와 다른 빈도로 API를 호출하거나, 비정상적인 시스템에 접근하거나, 평소보다 높은 민감도 데이터를 다루는 경우 이를 실시간으로 감지해야 한다. 필요하면 즉시 중단할 수 있는 킬 스위치와 승인 워크플로도 준비돼야 한다.
국내 기업의 현실을 보면, 클라우드와 SaaS 사용은 이미 광범위하지만 비인간 아이덴티티에 대한 관리 성숙도는 여전히 낮은 편이다. 서비스 계정과 API 키는 문서화가 부족하고, 오너십은 불명확하며, 만료되지 않은 토큰과 오래된 연동 계정이 그대로 남아 있는 경우가 많다. 여기에 AI 에이전트가 도입되면 이러한 문제는 단순한 관리 미흡을 넘어, 대외 유출과 내부 오남용의 직접 경로가 될 수 있다.
따라서 기업은 AI 에이전트를 별도의 '신기술 예외'로 다루기보다, 아이덴티티 관리 체계 안으로 편입시켜야 한다. 즉, 에이전트도 직원과 마찬가지로 식별되고, 승인되고, 권한이 검토되며, 로그가 남고, 퇴사·종료에 해당하는 폐기 절차를 거쳐야 한다. 아이덴티티가 늘어나는 시대의 해법은 더 많은 계정을 만드는 것이 아니라, 더 엄격한 권한 통제와 더 짧은 수명의 접근을 적용하는 것이다.
AI 에이전트는 단순한 자동화 도구가 아니라, 실제 시스템에 손을 대는 새로운 실행 주체다. 따라서 보안의 초점은 모델이 얼마나 똑똑한가가 아니라, 그 모델이 어떤 아이덴티티로 어떤 권한을 가지고 어디까지 행동할 수 있는가에 맞춰져야 한다. 소유권, 최소 권한, 런타임 통제, 빠른 회수라는 원칙을 일관되게 적용할 때만 AI 에이전트는 생산성 향상의 수단이 될 수 있다.
양희정 BeyondTrust 한국 비즈니스 총괄·공학박사 jyang@beyondtrust.com