탈레스(Thales)가 에이전틱 AI와 대규모언어모델(LLM) 기반 애플리케이션, 기업 데이터 및 ID를 보호하는 최초의 런타임 보안 솔루션인 'AI Security Fabric'을 출시했다고 밝혔다. 이번 솔루션은 프롬프트 인젝션, 데이터 유출, 모델 조작, 안전하지 않은 RAG(검색 증강 생성) 파이프라인 등 급증하는 AI 특화 보안 위협에 대응해, 기업이 컴플라이언스를 준수하면서도 안전하게 AI 혁신을 추진할 수 있도록 설계됐다.
AI는 산업 전반에서 빠르게 확산되며 비즈니스 혁신과 운영 효율화를 이끌고 있지만, 동시에 새로운 보안 격차와 위험 요소도 함께 확대되고 있다. 맥킨지(McKinsey)에 따르면 현재 기업의 78%가 최소 하나 이상의 비즈니스 기능에 AI를 활용하고 있으며, 이는 2년 전 55%에서 크게 증가한 수치다. 이러한 흐름 속에서 '2025 탈레스 데이터 위협 보고서'는 기업의 73%가 신규 또는 기존 예산을 활용해 AI 전용 보안 도구에 투자하고 있다고 밝혔다.
탈레스는 이러한 시장 변화에 대응해 기업 AI 에코시스템의 핵심부터 엣지까지 보호하는 AI Security Fabric의 첫 번째 핵심 기능을 공개했다. 해당 솔루션은 LLM 기반 애플리케이션, 데이터, ID를 엔드투엔드로 보호함으로써 AI 활용 확산 과정에서 발생할 수 있는 다양한 보안 리스크를 최소화하는 데 초점을 맞췄다.
AI Security Fabric을 도입한 기업은 프롬프트 인젝션, 민감정보 및 규제 대상 데이터 노출, 모델 조작 등 AI 기반 위협을 완화하면서 AI 도입과 확장을 안전하게 가속화할 수 있다. 또한 에이전틱 AI와 생성형 AI에 대해 통제된 데이터 접근 권한을 제공하고, 클라우드 및 온프레미스 환경 전반에 런타임 보안을 유연하게 배포할 수 있다. OWASP Top 10의 핵심 위험을 직접 해결하는 엔터프라이즈급 보안 역량을 기반으로, 비용 손실이나 평판 훼손으로 이어질 수 있는 사고를 사전에 예방하는 것도 강점이다.
현재 제공되는 주요 기능으로는 'AI 애플리케이션 시큐리티'와 'AI 검색 증강 생성(RAG) 시큐리티'가 있다. AI 애플리케이션 시큐리티는 LLM을 사용하는 자체 개발 애플리케이션을 보호하는 솔루션으로, 프롬프트 인젝션, 탈옥(jailbreak), 시스템 프롬프트 유출, 모델 서비스 거부 공격, 민감정보 유출, 콘텐츠 조정 등 AI 특화 위협에 대해 실시간 보호를 제공한다. 클라우드 네이티브, 온프레미스, 하이브리드 등 다양한 아키텍처에 유연하게 적용할 수 있다.
AI 검색 증강 생성(RAG) 시큐리티는 암호화와 키 관리를 포함한 데이터 보호 기능을 통해, 민감한 구조화·비구조화 기업 데이터가 RAG 애플리케이션에 수집되기 전 이를 식별하고 보호한다. 이를 통해 LLM과 외부 데이터 소스 간 통신을 안전하게 유지할 수 있다.
세바스티앙 카노(Sebastien Cano) 탈레스 사이버 시큐리티 제품 사업부문 수석 부사장은 “AI가 비즈니스 운영 방식을 근본적으로 변화시키면서, 기업에는 에이전틱 AI와 생성형 AI 애플리케이션의 고유한 위험에 대응할 수 있는 전용 보안 솔루션이 필요하다”며 “AI Security Fabric은 운영 복잡성을 최소화하면서 AI 애플리케이션을 보호하는 전문 도구로, 탈레스의 오랜 보안 전문성을 바탕으로 기업이 민감 데이터와 애플리케이션, 사용자 인터랙션을 안전하게 보호하며 AI를 확장할 수 있도록 지원한다”고 말했다.
탈레스는 향후 2026년까지 AI Security Fabric을 확장해 데이터 유출 방지(DLP), MCP(Model Context Protocol) 보안 게이트웨이, 엔드투엔드 런타임 액세스 제어 등 새로운 보안 기능을 추가할 계획이다. 이를 통해 데이터 흐름 전반에 대한 보호를 강화하고, 에이전틱 AI의 데이터 접근을 보다 통합적이고 컴플라이언스에 부합하는 방식으로 관리한다는 전략이다.
한편 탈레스는 방위, 항공우주, 사이버 및 디지털 분야의 첨단 기술을 선도하는 글로벌 기업으로, 인공지능, 사이버보안, 양자, 클라우드 등 핵심 영역에 연간 40억 유로 이상을 R&D에 투자하고 있다. 전 세계 68개국에서 8만3,000명 이상의 직원을 보유하고 있으며, 2024년 기준 그룹 매출은 206억 유로를 기록했다.
임민지 기자 minzi56@etnews.com