카카오가 자율 인공지능(AI) 에이전트 시대에 대비해 윤리 원칙과 이행을 위한 가이드라인을 마련했다. 자율 AI 에이전트를 5대 영역에서 관리하고, AI 전 주기에서 리스크를 검토한다.
카카오는 자율 에이전트의 확산에 대응하고자 AI 서비스의 기획부터 운영까지 적용할 AI 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.
카카오는 지난 13일 경기 용인시 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 '이프카카오(if(kakao))26'에서 윤리 원칙과 가이드를 공개했다.
새 AI 윤리 원칙 'SPIRIT'은 △안전(Safety) △프라이버시(Privacy) △포용(Inclusivity) △책임(Responsibility) △이용자 주체성(Individual Autonomy) △투명성과 신뢰성(Transparency & Trustworthiness), 여섯 가지로 구성된다. '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 채택했고 카카오 서비스에 맞게 세부 내용을 보완했다.
수립한 원칙을 실질적 이행으로 옮기는 방식은 'NORMA(Navigating, Organizational, Responsibility, Manageable, Actionable)'로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능하고 실행 가능한 단계로 구체화한다는 의미다.
이번 윤리 원칙과 이행 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이달 초 마련했다. 자문단은 독립적으로 검토해 국내외 규범과 정합성을 점검했다. 카카오에서는 AI 세이프티, 개인정보, 정보보안, 서비스 등 관련 부서가 실무 관점에서 검토해 현장 적합성을 높였다.
카카오는 자율 에이전트 리스크를 △통제 주도권 △목표 △권한 △참조 자원 △상호작용의 5대 관리 영역으로 나눴다. 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 통제를 연결했다. 이를 바탕으로 만들어진 'AI 윤리 이행 체크리스트'는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정의 세 단계로 운영된다. 체크리스트는 연내 적용한다.
김세웅 카카오 AI&기술윤리소위원회 위원장은 “외부 자문단과 내부 조직 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”면서 “AI 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용하는 AI 서비스를 만들겠다”고 말했다.
변상근 기자 sgbyun@etnews.com
