사전 등록 이미지와 유사도 분석…생성형 AI 통한 우회 유출 대응
기업의 생성형 인공지능(AI) 활용이 늘면서 설계도면이나 신제품 디자인 등 중요 정보를 이미지로 변환해 입력하는 새로운 정보 유출 가능성도 커지고 있다. 컴트루테크놀로지가 생성형 AI 보안 솔루션의 탐지 범위를 텍스트와 문서에서 이미지까지 확대해 이 같은 보안 사각지대 대응에 나섰다.
인공지능 및 정보보안 전문기업 컴트루테크놀로지는 생성형 AI 보안 솔루션 '스핑크스 AI(Sphinx AI)'에 이미지 기밀정보 유사도 분석 기능을 추가했다고 25일 밝혔다.
스핑크스 AI는 생성형 AI에 입력되는 프롬프트와 첨부파일에 포함된 개인·민감·기밀정보를 탐지하고 외부 유출을 방지하는 AI DLP(Data Loss Prevention) 보안 솔루션이다.
이번 기능 추가의 핵심은 기밀정보가 이미지 형태로 변환되더라도 이를 식별해 생성형 AI로 전송되는 것을 차단할 수 있다는 점이다. 기존 텍스트나 문서 내용에 대한 탐지를 넘어 설계도면, 신제품 디자인 시안 등 기업의 중요 자료를 캡처하거나 스캔한 이미지까지 보호 범위에 포함했다.
사용자가 생성형 AI에 이미지 또는 이미지가 포함된 문서 파일을 첨부하면 스핑크스 AI가 사전에 등록된 기밀정보 이미지와 유사도를 분석한다. 기업이 설정한 기준치를 초과할 경우 해당 이미지의 업로드를 차단한다.
이에 따라 원본 문서 자체를 생성형 AI에 올리지 않더라도 화면을 캡처하거나 스캔하는 방식으로 정보를 이미지화해 입력하는 우회적인 유출 시도에도 대응할 수 있게 됐다. 특히 제품 설계와 연구개발, 디자인 등 이미지 형태의 중요 자료를 많이 다루는 기업에서 생성형 AI 이용에 따른 정보보호 범위를 넓힐 수 있을 것으로 회사 측은 기대했다.
컴트루테크놀로지는 기업 내부에서 생성형 AI 이용이 빠르게 확산되면서 텍스트 중심의 탐지만으로는 기밀정보 유출을 관리하는 데 한계가 있다고 판단했다. 이에 자체 개발한 AI 신경망을 기반으로 이미지의 유사성을 분석하는 기능을 스핑크스 AI에 적용했다.
기업별 보안 환경에 맞춘 정책 설정도 가능하다. 관리자가 이미지 기밀정보 유사도 기준치를 직접 설정할 수 있으며 기준을 초과하면 이미지 업로드를 차단하고 사용자에게 관련 내용을 안내한다. 탐지와 차단 내역은 관리자 페이지에 기록해 보안 이력으로 관리할 수 있다.
스핑크스 AI는 이미지 유사도 분석 외에도 생성형 AI를 통한 정보 유출을 막기 위한 다양한 기능을 제공한다. 단순 키워드가 아닌 전체 문맥을 기반으로 민감정보를 분석하고 자체 개발한 OCR 기술을 활용해 첨부 문서에 포함된 정보도 탐지한다.
프롬프트 인젝션 등 생성형 AI를 대상으로 한 보안 위협에도 대응한다. 프록시와 API 연동을 지원해 기업에서 사용하는 생성형 AI 환경 전반에 보안 정책을 적용할 수 있다.
컴트루테크놀로지는 “생성형 AI가 업무 전반으로 확산되면서 기업이 보호해야 할 데이터의 유출 경로도 다양해지고 있다”며 “변화하는 AI 활용 환경에 맞춰 기밀정보 보호 범위를 지속적으로 확대할 것”이라고 말했다.
권상희 기자 shkwon@etnews.com
