숭실대학교는 김도윤 학부연구생이 제1저자로 참여한 논문이 자연어처리(NLP) 분야 국제학술대회 'EMNLP 2026' 메인 컨퍼런스에 채택됐다고 밝혔다.
김도윤 학부연구생이 제1저자, 같은 연구실 김찬우 학부연구생이 공동저자로 참여한 논문 'EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents'은 자기진화형 인공지능(AI) 에이전트의 보안 취약점을 분석하고 이를 평가하는 레드티밍(Red-Teaming) 방법을 제안한 연구다.
자기진화형 AI 에이전트는 과거 경험을 바탕으로 새로운 스킬(Skill)을 생성하고 개선하며 이를 다시 활용하는 방식으로 기능을 확장한다. 연구진은 이 과정에서 악의적인 행동이 정상적인 경험으로 학습돼 하나의 스킬로 저장되고 이후 반복적으로 활용될 수 있다는 점에 주목했다.
연구진은 이 같은 새로운 보안 위협을 'EvoSkill Injection'으로 정의하고, 자기진화형 에이전트의 스킬 생성과 진화 과정에서 발생할 수 있는 취약점을 분석하기 위한 다중 에이전트 기반 레드티밍 프레임워크 'SARGE'를 제안했다.
이번 연구는 AI 에이전트의 안전성을 검증할 때 입력과 출력뿐 아니라 스킬의 생성부터 검증·저장·검색·재사용에 이르는 자기진화 과정 전반을 살펴볼 필요성을 제시했다.
김도윤 학부연구생은 “학부생으로서 AI 에이전트의 안전성과 보안이라는 새로운 연구 주제에 직접 도전하고, 그 결과를 EMNLP 2026에서 발표할 수 있게 되어 뜻깊다”며 “연구 과정에서 많은 시행착오가 있었지만 지도교수님과 연구실 구성원들의 도움을 통해 끝까지 연구를 완성할 수 있었다. 이번 경험을 바탕으로 신뢰할 수 있고 안전한 AI 에이전트를 만드는 연구를 계속 이어가고 싶다”고 소감을 밝혔다.
박찬준 지도교수는 “학부연구생이 주도적으로 수행한 연구가 자연어처리 분야 주요 국제학술대회인 EMNLP에 채택됐다는 점에서 의미가 있다”며 “김도윤 학생이 학부 과정에서부터 AI 에이전트 보안이라는 새로운 연구 주제에 도전해 연구 성과를 만들어냈다는 점도 의미 있게 평가한다. 앞으로도 학생들이 자신의 아이디어를 실제 연구 성과로 발전시킬 수 있도록 지원하겠다”고 말했다.
조호현 기자 hohyun@etnews.com