지난해 큰맘 먹고 도입한 인공지능(AI) 툴이 벌써 옛날 기술처럼 느껴질 만큼 기술 변화가 빠르다. 이제 리스크는 AI 모델 자체에 있지 않다. AI 에이전트가 기업의 데이터와 인프라에 연결되는 순간, 모델의 문제는 곧 데이터의 문제가 되고 결국 비즈니스 전체의 위협으로 번지게 된다.
티빙이 발표한 개인정보 유출사고 조사 결과는 변화한 위험 환경을 단적으로 보여준다. 공격자는 '개발자 접속키'를 탈취해 내부 시스템에 무단으로 접근했고, 약 3954만개 계정의 정보를 빼냈다. 이제 자격증명 하나로 어디까지 접근할 수 있는지, 이상 징후를 얼마나 빨리 잡아낼 수 있는지는 모든 기업이 스스로에게 던져야 할 질문이 됐다.
AI 에이전트의 본격 도입을 생각하면, 이 질문의 무게와 속도는 이전과는 비교할 수 없을 만큼 커진다. AI 에이전트는 여러 시스템에 걸친 권한을 활용해 콘텐츠를 게시하고, 소프트웨어를 배포하고, 기록을 업데이트하며, 워크플로를 실행할 수 있다. 접근 권한이 잘못 설계되면 단일 업무를 수행하는 데 필요한 개별 임직원의 권한보다 훨씬 광범위한 권한을 갖게 될 수 있다.
이들에 대한 사람의 감독은 여전히 필수적이지만, 그것만으로 머신 레벨의 속도로 일어나는 행동을 실시간으로 통제하기는 어렵다.
티빙은 사고 후속 대책으로 2030년까지 정보보호 투자를 이전 5년간의 약 4배 수준으로 확대하겠다고 밝혔다. 향후 5년간 보안 전문인력도 현재의 약 3배 수준으로 늘리고, 접근 권한의 상시 검증과 최소 권한 부여 등 제로 트러스트 원칙을 중심으로 보안 체계를 재구축할 계획이다.
하지만 제로 트러스트의 대상은 '사람'만이 아니다. 애플리케이션과 서비스, 워크로드, AI 에이전트에도 같은 원칙을 적용해야 한다.
안타깝게도 많은 제로 트러스트 시스템은 사람과 기기 위주로 맞춰져 있다. 사람의 손이 미치지 않는 자동화 계정, 응용 프로그램 인터페이스(API), 권한을 넘겨받은 에이전트가 민감한 데이터에 직접 손을 대는 상황은 감시망을 벗어나곤 한다. 이른바 '섀도 에이전트'는 기업이 미처 파악하지 못한 보안 공백을 키울 수 있다.
AI 시대에는 '데이터'를 첫번째 통제선으로 삼아야 한다. 어떤 데이터가 민감한 지 분류하고, 접근 정책과 마스킹, 토큰화, 암호화, 데이터 유출 방지(DLP) 정책을 적용해야 한다. 이를 통해 에이전트가 어떤 데이터를 조회할 수 있는지, 무엇을 외부로 내보낼 수 있는지, 실제로 어떤 항목을 변경할 수 있는지를 제한할 수 있다. 이러한 정책은 특정 애플리케이션에만 묶여 있어서는 안 된다. 데이터가 애플리케이션, API, 인프라의 경계를 넘어 이동하더라도 통제가 계속 따라붙어야 한다.
복원력에 대한 접근도 달라져야 한다. AI 에이전트 운영 환경에서는 시스템 전체를 복구하는 것만으로 충분하지 않을 수 있다. 중대한 침해 사고나 광범위한 데이터 손상이 발생한 경우에는 전체 복원이 필요하지만, 국지적인 오류까지 같은 방식으로 대응하면 이후 정상적으로 수행된 작업도 함께 사라질 수 있다. 따라서 기업은 문제가 된 변경 사항을 정확히 식별하고, 정상적인 작업은 그대로 보존하면서 필요한 부분만 되돌릴 수 있어야 한다.
이를 위한 핵심이 '변경 단위 복구'다. AI 에이전트가 변경한 특정 설정이나 거래 내역을 추적해 문제가 된 부분만 원래 상태로 되돌리는 방식이다. 이를 구현하려면 누가 무엇을 변경했는지 확인할 수 있는 세분화된 기록과 시스템 간 의존 관계에 대한 정보가 필요하다. 무엇보다AI 에이전트가 사후에 수정하거나 삭제할 수 없는 보호된 복구 지점을 확보해야 한다.
어떤 시스템이든 오류를 100% 막을 수는 없다. 너무 많은 권한, 헐거운 보안망, 너무 빠른 처리 속도가 겹쳐지면 아주 사소한 오류조차 순식간에 불어나 대형 사고가 된다. 따라서 보안 계획은 '오류는 언제든 일어날 수 있다'는 솔직한 인정에서 출발해야 한다.
릭 배노버 빔 소프트웨어 제품전략 부사장 rick.vanover@veeam.com
강성전 기자 castlekang@etnews.com
