“인공지능(AI) 안전을 개념적으로만 이야기해서는 안 됩니다. 시스템이 실제로 안전하다는 것을 입증할 수 있어야 합니다. 그것이 테스트가 필요한 이유입니다.”
리완시 싱가포르 정보통신미디어개발청(IMDA) AI 거버넌스·안전 클러스터 디렉터는 싱가포르 AI 안전 정책의 특징으로 AI를 규제하는 원칙과 지침을 만드는 데 그치는 것이 아니라 실제 서비스가 제대로 작동하는지 시험하고, 이를 독립적으로 검증하는 생태계를 만드는 데 초점을 맞추고 있다고 강조했다.
리 디렉터는 싱가포르 AI 거버넌스를 이끄는 핵심 인물 중 하나다. 비영리 AI 거버넌스 조직인 AI 검증 재단의 이그제큐티브 디렉터와 싱가포르 AI안전연구소(AISI) 정책총괄도 겸하면서, AI 거버넌스 정책 수립과 신뢰할 수 있는 AI 생태계 조성, 국제협력을 담당하고 있다.
싱가포르가 주목하는 것은 거대담론 속 AI 위험뿐 아니라 시민과 소비자에게 직접적인 영향을 미치는 '일상적 위험'이다. 은행·병원·인사·법률 등 실제 현장에 AI를 안전하게 도입하기 위한 배포 단계의 위험 관리에 초점을 맞추고 있다.
리 디렉터는 “작은 국가 규모와 한정된 자원을 고려하면 사회 발전과 보건의료 개선에 기여할 수 있도록 AI를 효과적으로 활용하는 것이 중요하다”면서 “개인정보 보호와 정확한 정보 제공 여부는 물론 이용자가 판단이나 사고를 AI에 맡기는 인지적 외주화와 정서적 의존에도 주목하고 있다”고 설명했다.
이 과정에서 독립적인 제3자 AI 시험·검증 시장도 육성하고 있다. AI가 적용되는 분야마다 위험 요소가 다르고 다른 종류의 테스트가 필요한데 정부가 모든 테스트를 직접 할 수는 없다. 이 때문에 역량을 갖춘 제3자 테스터 생태계를 구축하고, 모범 사례를 축적해 기업이 활용할 수 있는 가이드라인으로 만드는 데 집중한다.
리 디렉터는 “자동차나 의약품, 비행기처럼 우리가 일상적으로 사용하는 영역에도 이미 많은 독립적 테스트가 존재한다”며 “기업과 아무 이해관계가 없는 제3자가 시험하고 평가함으로써 신뢰를 높일 수 있다”고 강조했다. 전문성 측면에서도 “기업 내부에 충분한 AI 안전 평가 역량이 없을 수 있는 만큼 매일 전문적으로 AI를 시험하는 외부 기업의 역량을 활용할 필요가 있다”고 덧붙였다.
싱가포르는 'AI 어슈어런스 샌드박스' 등을 통해 독립적 제3자 테스팅 생태계를 키워왔다. 여기서 더 나아가 최근에는 제3자 테스팅 업체에 인증을 부여하는 'AI TAP(AI Tester Accreditation Programme)'을 출범해 AI를 시험하는 기업 자체의 역량을 검증하는 단계로 나아가고 있다.
리 디렉터는 “테스트는 아직 새로운 시장이기 때문에 수요자인 기업들은 어떤 테스트 기업이 있는지조차 모르는 경우가 있다”면서 “AI TAP을 통해 테스트 기업의 전문 역량뿐 아니라 재무 상태와 운영 역량 등을 평가해서 AI 검증 서비스를 필요로 하는 기업이 신뢰할 만한 테스터를 찾도록 돕는다”고 설명했다.
AI가 직접 도구를 사용하고 행동하는 에이전트로 진화하면서 시험 방식도 달라지고 있다. 싱가포르는 에이전틱 AI와 이를 안전하게 배포하는 방법에 관해 세계에서 가장 먼저 공식 입장을 낸 국가 중 하나다. 지난 1월 세계 최초로 책임 있는 에이전틱 AI 배포를 위한 거버넌스 프레임워크를 발표하고, 5월 실제 적용 사례와 산업계 의견을 반영해 업데이트했다.
리 디렉터는 “에이전트는 스스로 행동하고 자율적으로 작동하기 때문에 하나의 시스템 차원에서 안전을 봐야 한다”며 “사용 목적과 위험을 먼저 평가해 권한과 자율성의 범위를 정하고, 사람이 개입할 지점을 설정해야 하며 배포 전·중·후의 기술적 통제장치를 마련하는 동시에 이용자에게 에이전트 사용 사실과 위험을 알려야 한다”고 설명했다.
다언어·다문화 환경 역시 싱가포르가 주목하는 문제다. 동남아시아는 다양한 언어가 동시에 사용되지만 상당수 AI 모델은 영어에 비해 저자원 언어 학습 데이터가 부족하다. 단순히 답변 성능만 떨어지는 게 아니라 안전장치의 견고성에도 차이가 나타날 수 있다는 판단이다.
싱가포르는 2024년 아시아·태평양 9개국과 함께 4개 거대언어모델(LLM)을 영어와 지역 언어로 공격하는 다문화·다언어 AI 안전 레드티밍을 진행했다. 올해는 참여 범위를 14개국으로 확대하고 생성형 AI 애플리케이션의 데이터 유출 위험을 검증했다. 한국 역시 관련 활동에 참여했다.
그는 “한국은 피지컬 AI와 에이전틱 AI에 많은 강점을 가진 만큼 안전과 거버넌스 측면에서도 역량을 함께 구축할 수 있을 것”이라며 “AI 안전은 한 국가가 홀로 해결할 수 있는 문제가 아닌 만큼 글로벌 협력이 매우 중요하다”고 강조했다.
싱가포르=
정현정 기자 iam@etnews.com
