[NABS 2026 기획] AI 에이전트가 넓힌 앱·API 공격면…아카마이, 프롬프트·모델 응답까지 보호

AI 에이전트가 기업 데이터와 애플리케이션을 연결해 업무를 수행하면서 애플리케이션 보안 범위도 넓어지고 있다. AI 에이전트는 이용자를 대신해 API를 빠르게 호출하고 여러 시스템에서 정보를 찾거나 작업을 실행한다. 기존 이용자 중심의 접속 패턴과 다른 자동화 트래픽이 증가하는 이유다.

하나의 업무를 처리하는 과정에는 애플리케이션과 API, 대규모언어모델(LLM), 모델컨텍스트프로토콜(MCP) 서버, 외부 도구와 데이터가 함께 연결된다. 공격자는 관리되지 않는 API를 찾거나 정상적인 호출로 위장해 데이터에 접근할 수 있다. 악성 프롬프트로 모델의 동작을 바꾸고 생성된 응답에서 민감정보를 빼내는 공격도 기존 웹 보안만으로는 확인하기 어렵다.

아카마이 테크놀로지스는 'API 시큐리티(API Security)', '앱 앤 API 프로텍터(App & API Protector)', '봇 매니저(Bot Manager)', '파이어월 포 AI(Firewall for AI)'를 이용해 AI 애플리케이션의 접속 경로와 데이터 입출력을 보호한다. API를 찾아 위험을 확인하고 애플리케이션 공격과 악성 자동화 트래픽을 차단한 뒤 LLM에 전달되는 프롬프트와 모델이 생성한 응답까지 검사한다.

AI·MCP 연계 API 식별…앱·API 공격 엣지에서 차단

AI 에이전트는 애플리케이션 화면보다 API를 이용해 데이터를 조회하고 기능을 실행한다. 에이전트가 연결하는 서비스가 많아지면 개발조직이 파악하지 못한 섀도 API와 사용이 중단됐지만 외부에 남아 있는 좀비 API가 호출 대상에 포함될 수 있다.

API 시큐리티는 실행 중인 트래픽과 코드, API 명세, 게이트웨이, 클라우드 환경을 분석해 API를 찾아낸다. 기존 API뿐 아니라 생성AI 애플리케이션과 LLM 서비스, AI 워크플로, MCP 서버에 연결된 API도 식별한다.

발견된 API에서는 인증 방식과 호출 관계, 민감정보 노출 여부를 확인한다. 운영 중에는 API 호출 패턴과 데이터 이동을 분석해 비정상적인 이용과 업무 로직 악용, 데이터 스크래핑, 정보 유출, 변조 가능성을 탐지한다. 정상적인 인증정보를 사용한 요청도 평소와 다른 방식으로 API를 호출하면 분석 대상에 포함된다.

배포 전에는 API에 악성 요청을 보내 취약점과 잘못된 설정을 확인한다. 개발·배포 과정에 보안 테스트를 적용해 운영환경에 공개되기 전에 문제를 찾고 수정 결과를 검증한다. API 발견과 사전 검사, 운영 중 행위분석을 연결해 관리되지 않는 API와 실제 공격을 함께 확인한다.

앱 앤 API 프로텍터는 웹방화벽(WAF)과 API 보호, 봇 대응, 레이어 7 분산서비스거부(DDoS) 방어 기능을 결합한다. 웹 애플리케이션과 API로 들어오는 HTTP·HTTPS 요청을 아카마이 엣지에서 검사해 악성 요청을 차단한다.

적응형 보안 엔진은 트래픽에서 발견한 공격패턴과 요청 행위를 분석한다. 새로운 공격기법과 취약점이 확인되면 보안규칙을 갱신하고 관리자가 조정해야 할 정책을 알려준다. 자동 API 발견 기능은 애플리케이션 변경 과정에서 새로 추가되거나 기존 관리대상에서 빠진 API를 확인한다.

공격 트래픽은 애플리케이션 서버에 도달하기 전에 엣지에서 처리한다. 웹 공격과 API 공격, 악성 봇, 레이어 7 DDoS를 각각 다른 제품에서 확인해야 하는 운영 부담을 줄이고 동일한 접점에서 요청을 분석한다.

프롬프트와 모델 응답 검사…악성 봇·에이전트 트래픽 구분

생성AI 애플리케이션은 이용자가 입력한 자연어를 LLM에 전달하고 모델이 만든 응답을 다시 이용자에게 보낸다. 이 과정에서 공격자는 정상적인 질문처럼 보이는 문장에 악성 지시를 넣어 모델의 기존 명령을 무시하게 하거나 접근이 제한된 정보를 출력하도록 유도할 수 있다.

파이어월 포 AI는 LLM에 들어가는 프롬프트와 모델이 생성한 응답을 실시간으로 검사한다. 입력단에서는 프롬프트 인젝션과 탈옥, 적대적 입력, 허용되지 않은 질의를 찾아 모델에 전달되기 전에 차단한다.

출력단에서는 개인정보와 기업 기밀 등 민감정보가 응답에 포함됐는지 확인한다. 유해하거나 부적절한 콘텐츠와 보안정책을 위반한 응답도 걸러낸다. 반복적인 질의를 이용해 모델의 지식과 데이터를 추출하거나 AI API를 악용하는 시도도 탐지 대상이다.

파이어월 포 AI는 특정 LLM에 종속되지 않는다. 클라우드와 하이브리드 환경, 온프레미스에 배치한 AI 애플리케이션에서 이용할 수 있으며 아카마이 엣지 또는 REST API 방식으로 연결한다.

봇 매니저는 애플리케이션과 API를 호출하는 자동화 트래픽을 분석한다. 이용자 행동과 브라우저 특성, 요청 패턴을 바탕으로 정상 이용자와 허용된 봇·AI 에이전트, 악성 봇을 구분한다.

정상적인 검색과 업무 자동화를 수행하는 봇·AI 에이전트는 통과시키고 데이터 수집과 계정 공격, 서비스 남용에 이용되는 자동화 요청은 차단하거나 추가 검증한다. 관리자는 자동화 트래픽의 유형과 변화, 애플리케이션에 미치는 영향을 확인할 수 있다.

아카마이의 애플리케이션 보호 솔루션은 AI 에이전트가 호출하는 API를 확인하고 웹·API 공격과 악성 자동화 트래픽을 엣지에서 차단한다. 파이어월 포 AI는 기존 애플리케이션 보안이 확인하기 어려운 프롬프트와 모델 응답을 검사한다. 기업은 AI 에이전트의 API 호출부터 LLM의 입력과 출력까지 연결된 구간에 보안정책을 적용할 수 있다.

임민지 기자 minzi56@etnews.com