2026년에 접어들며 많은 기업들이 인공지능(AI) 도입에 적극적으로 나서고 있다. 기업은 AI가 반복적인 작업을 자동화하고, 더 빠른 의사 결정을 지원함으로써 업무 효율성을 높일 수 있게됐다. 기술 관점에서 지금의 AI 적용을 보면, 1990년대 미들웨어를 전면적으로 도입하던 시기와 여러모로 닮아 있다. 당시 미들웨어는 데이터베이스(DB)와 애플리케이션(앱)을 연결하는 핵심 인프라로, 기업 컴퓨팅 환경의 급속한 확장을 이끌었다. 이제 AI는 여러 데이터 소스와 서로 다른 시스템 사이에서 지능형 의사결정을 수행하는 새로운 '미들웨어 계층'으로 부상하고 있다.
과거 미들웨어 도입의 경험을 떠올려 보면, 기술적 효용만을 좇다가 보안과 안정성을 간과했을 때 어떤 대가를 치렀는지 잘 알 수 있다. 단일 장애 지점(single point of failure) 형성, 동적으로 넓어지는 공격 표면, 침해 사고 발생 시 연결된 여러 시스템으로 위협이 번져가는 측면 이동(lateral movement)을 초래하기도 했고, 때로는 미들웨어 브로커 한 곳이 손상되면서 전사 핵심 시스템 가용성과 데이터 무결성이 동시에 흔들린 사례도 적지 않았다. 오늘날 AI는 기존에 미들웨어를 도입하던 시기와 비교해보면 훨씬 더 큰 문제를 만들어낼 수 있다. 왜냐하면 AI는 단순히 정보를 처리하는 데 그치지 않고, 정보를 어떻게 처리할지를 결정하는데, 이 과정에서 오작동을 일으키거나, 민감한 정보가 유출될 수도 있기 때문이다.
이전에 미들웨어와 DB 연결 보호를 위해 아이덴티티와 접근 제어가 핵심 의제가 되었던 것처럼, 이제 AI에 대해 한 단계 높은 수준의 아이덴티티 보안이 요구된다. 최소 권한(least privilege)의 원칙, 필요 시점에만 접근 권한을 부여하는 적시 접근제어(just-in-time access) 등이 대표적이다. 특히 새로운 미들웨어로서 AI가 비밀번호 재설정, 사용자 생성, 인프라 수정과 같은 권한이 필요한 작업을 시작할 수 있다면, 반드시 제로 트러스트 원칙에 따라 운영돼야 한다. AI 에이전트를 아이덴티티가 부여된 엔티티로 정의해 강력한 인증과 함께, 세분화된 권한 부여, 활동에 대한 감사가 이루어져야 하고, 동작이 모니터링돼야 한다. 결국 방어의 핵심은 '누가(어떤 ID가) 어떤 권한으로 어떤 행위를 했는가'를 끝까지 추적할 수 있는 아이덴티티 중심의 가시성에 있다. 이것이 바로 AI 보안의 핵심이 사실상 아이덴티티 보안에 대한 것인 이유다. AI 모델 성능이나 프롬프트 기술보다 우선해야 할 것은 AI 에이전트와 서비스가 어떤 디지털 정체성을 가지고 어떤 리소스에 접근할 수 있는지 정의하고 통제하는 일이다.
자율적으로 의사결정과 행동이 가능한 에이전틱 AI(Agentic AI) 에 적절한 통제나 보호 장치 없이 전면적인 접근 권한을 부여한다면, 아직 성숙하지 않은 AI 보안 모델로 인해 보안 공격자들에게 시스템 내부를 자유롭게 이동할 수 있는 최적의 발판으로 악용될 위험이 있다. 따라서 AI를 단일 앱 기능이 아니라 기업 아키텍처를 관통하는 통합 계층이자 의사결정 구조로 인식해야 한다. AI가 자율적으로 수행할 수 있는 업무 범위, 고위험 의사결정에 대한 인간 개입 기준, 신뢰성과 위험을 측정할 지표를 명확히 정의하는 거버넌스 프레임워크가 필요하다. 더 나아가 설계-실험-도입-운영 전 수명주기에서 보안을 기본값으로 내재화하고, 이상 징후 탐지와 '킬 스위치'를 포함한 비상 브레이크를 아키텍처에 포함해야 한다.
1990년대 미들웨어 열풍이 분산 컴퓨팅을 가능하게 했듯이, 새로운 미들웨어로서 AI의 열풍은 자율 컴퓨팅을 실용화할 것이다. 역사가 우리에게 가르쳐주는 것이 있다면, 새로운 정보기술 계층이 생겨날 때마다 기회와 위험이 동시에 발생한다는 것이다. AI는 단순한 애플리케이션 기능이 아니라 새로운 통합 계층이자 새로운 의사결정 구조다. 1990년대의 미들웨어처럼, AI는 필수불가결하면서도 눈에 보이지 않는 존재가 될 것이며, 제대로 관리되지 않으면 엄청난 위험을 초래할 수 있다. AI의 역할을 미들웨어로 인식하고 그에 맞는 보안을 구축하는 조직이야말로 차세대 기술 진화에서 성공할 것이다.
양희정 BeyondTrust 한국 비즈니스 총괄·공학박사 jyang@beyondtrust.com