'성능 중심 AI를 넘어 신뢰 가능한 AX로'
정보통신과 보안 분야 산·학·연·관 전문가들이 모여 에이전틱 인공지능(AI) 확산에 따른 보안·산업·법제 측면의 대응 방향을 모색했다.
한국정보통신학회(회장 이대성)와 AX신뢰연구회는 22일 제주 소노캄에서 '2026 제1회 AX신뢰연구회 워크숍'을 열고, 에이전틱 AI의 신뢰성 확보와 안전한 활용 체계 구축을 주요 의제로 논의했다.
에이전틱 AI는 도구 수준을 넘어 시스템 연계, 업무 수행, 의사결정 지원까지 그 기능을 대폭 확장하고 있다. 참석자들은 이 같은 현황을 공유하고 대학과 산업 현장에서 권한 통제, 행위 추적, 데이터 접근 관리, 운영 검증, 책임 소재까지 포함해 보다 안전한 활용 체계를 마련해야 한다고 의견을 모았다.
앤트로픽의 프런티어 AI 모델 '클로드 미토스 프리뷰(Claude Mythos Preview)', AI 보안 문제 해결을 위해 등장한 대규모 산업 연합체 '프로젝트 글래스윙(Project Glasswing)' 사례를 발표하고, 고도화된 AI 모델의 보안 취약점 탐지 역량을 방어적으로 활용하는 동시에 악용 가능성에도 대비하는 거버넌스 차원의 보안 대응 시스템 구축도 논의했다.
국가·산업 차원의 데이터 주권과 기술 자립을 위한 '소버린 AI(Sovereign AI)' 역할과 발전 방향도 주요 이슈로 다뤘다. 참석자들은 AI기본법상 '안전' 개념을 지나치게 포괄적으로 해석하면 법 적용과 책임 범위에 혼선이 발생할 수 있다며 법적 용어와 적용 범위를 보다 정교화할 필요가 있다고 입을 모았다.
이날 워크숍은 AI 공격, 생성형 AI와 에이전틱 AI의 사이버 리스크, 신뢰 가능한 AI 서비스 구현, AI 관련 법과 제도 개선까지 폭넓게 다루며 성황리에 종료했다.
이대성 회장은 “생성형 AI에서 에이전틱 AI로 발전하면서 AI의 활용 범위와 영향력도 더욱 확대되고 있다”며 “AI 기술을 안전하게 활용하는 사회적 신뢰 구축과 정책 방향을 지속적으로 논의하고 해법을 찾는 자리를 만들겠다”고 말했다.
부산=임동식 기자 dslim@etnews.com
