AI 전문기업 메인라인(대표 최현길)은 AI통합플랫폼 'AIFuze'의 기업용 보안 특화 기술인 '사용자 이력 기반 보안 가드레일 자동 생성' 기술에 대해 특허를 출원했다고 밝혔다.
해당 기술은 사용자 이력을 분석하여 페르소나를 식별하고, 이에 대응하는 보안 기준을 차등 적용하여 보안 가드레일을 자동으로 생성하는 기술이다.
기존의 AI 보안 시스템은 사용자에게 동일하게 적용되는 획일화된 보안 규칙을 제공하고 있어, 업무 수행에 필요한 정보에 접근하지 못하는 불편함과 반대로 과도한 권한 부여로 인한 정보 유출의 위험 문제가 지적됐었다.
AIFuze의 보안 가드레일 기술은 소속 부서나 업무 권한에 따라 페르소나별로 서로 다른 보안 규칙을 생성하고 보안 기준을 차등화 한다. 법률 담당자와 개발자가 다루는 정보의 성격과 위험 요소가 다르므로, 각각에 적합한 보안 규칙이 자동으로 적용되는 구조다.
먼저 사용자의 페르소나가 개발자인지, 법률 담당자인지, 재무 분석가인지를 시스템이 스스로 파악 후 직무별 위험 모델을 기반으로 최적화된 보안 가드레일을 생성한 후 프롬프트에 통합한다.
예를 들어 재무담당자에게는 재무 데이터 유출 방지를, 데이터분석가는 PII(개인식별정보) 비식별화 처리 강제 규칙을, 개발자에게는 시스템 명령 인젝션 차단을, 마케터에게는 저작권 침해 방어를 각각 적용하여 보안 강도를 능동적으로 조절할 수 있다.
따라서 프롬프트 인젝션 등 사이버 위험이 프롬프트 단계에서 차단되고, 사용자별로 개인화된 고품질 응답이 제공된다. 보안이 사후 필터링이 아니라, AI에 질문이 전달되기 전 단계에서 선제적으로 작동하는 셈이다. 또한 페르소나에 따른 문체 및 톤, 응답 포맷, 보안 제약을 체계적으로 통합하여 직무별 보안 제어와 응답 품질을 동시에 향상시킬 수 있다.
메인라인 관계자는 “생성형 AI의 보안 위협은 갈수록 정교해지는데, 모든 사용자에게 같은 잣대를 적용하는 방식으로는 한계가 있다”며 “사용자가 누구인지에 따라 보안이 스스로 조정되는 능동형 보안 기술이 기업용 AI 보안의 새로운 해법이 될 것”이라고 말했다.
메인라인은 해당 보안 기술을 AIFuze의 기업용 버전에 적용해 서비스 중이며, AI 및 관련 기술 분야에서 16건의 특허를 보유하고 있다.
이원지 기자 news21g@etnews.com
