'정보통신 미래모임'에 참석한 학계·산업 전문가들은 인공지능(AI) 신뢰성이 이제는 비즈니스의 성패를 좌우하는 핵심 요인이 됐다고 평가하며, AI가 초래할 불확실성을 해결하기 위한 인·검증 체계의 고도화가 시급하다는 데 입을 모았다.
남윤호 마이크레딧체인 대표는 최근 금융 IT 현장에서 벌어지는 AI 도입 상황에 대해 언급했다. 그는 “ '언노운 노즈'라는 단어가 있는데 최근엔 내가 뭘 하고 있는지조차 모르는 상태로 개발하는 느낌”이라며 “불과 몇 개월 전까지만 해도 개발자들이 리팩토링을 통해 코드를 검증하려 했지만, 이제는 AI가 만든 코드를 사람이 이해할 수 없어 검증 자체를 포기하는 상황”이라고 지적했다.
그는 이어 핵심 사업 분야인 금융 분야를 예로 들며 “스마트 컨트랙트가 몇 개만 겹쳐도 정산 데이터가 제대로 나온 것인지 알 수 없다. AI가 '오늘 번 돈은 230만 원'이라고 던져주면 이유도 모른 채 받아야 하는 상황”이라고 말했다.
그러면서 “최근 대형 은행이 AI를 전격 도입하겠다고 나섰다”면서 “검증되지 않은 기술을 금융의 핵심 레거시에 어디까지 연결할 것인지, 리스크 관리가 안 될 경우 심각한 문제가 발생할 수 있다”고 지적했다.
이에 이영석 와이즈스톤 대표는 “AI가 만든 코드는 사람이 이해하기 어렵기 때문에 유지보수가 굉장히 어렵다는 점에 깊이 공감한다”며 “과거에는 사람이 코드를 짰지만 이제는 AI가 코드를 만드는 시대로 가고 있다. '테스팅 없는 자율주행차를 탈 수 있느냐'는 예를 종종 드는데 이 질문이 우리에게 시사하는 바가 크다”고 말했다.
이어 “우리가 알 수 없는 영역의 시대에 진입한 것은 사실”이라면서 “표준에서는 통계 기반과 정형 기반이라는 두 가지 기법을 제시한다. 경험치에 의한 통계적 검증은 물론이고, 우리가 알 수 없는 신경망 모델의 함수화를 통해 미세한 값의 변화에 AI가 어떻게 반응하는지 평가하는 정형 기법 등이 이미 도입됐다”고 덧붙였다.
엄신조 지더블유캐드코리아 대표는 “한 AI가 만든 데이터를 다른 AI 3개에게 검증시키는 방식을 쓰고 있다”고 언급하자, 와이즈스톤 측은 이를 '앙상블 기법'이라 부르며 이미 실전에서 활용 중인 기술이라고 설명했다. 여러 모델에게 동시에 물어 가장 합리적인 답을 찾는 방식이 상상이 아닌 실제 테스팅 현장의 표준이 되고 있다는 설명이다.
임춘성 연세대 교수는 토론을 마무리하며 AI 인증과 테스팅의 지평 확대를 숙제로 제시했다.
임 교수는 'RCR(Function, Context, Ripple) 모델'을 소개하며, 현재의 테스팅이 주로 '기능'에 국한돼 있다면 앞으로는 '맥락(Context)'과 '사회적 파급효과(Ripple)'까지 아우르는 단계로 나아가야 한다고 강조했다.
임 교수는 “ISO 표준 등에 근거한 기능적 테스트만으로는 금융 사고나 사회적 혼란 같은 리스크를 완전히 관리하기 어렵다”며 “앞으로는 도메인 지식과 인문사회적 영역이 결합된 AI 감정사의 역할이 중요해질 것”이라고 전망했다.
그는 “제3자 인증이라는 신뢰성을 담보로 기술적 검증과 보험 시스템 등을 결합한다면 AI 비즈니스의 무궁무진한 기회가 열릴 것”이라고 내다봤다.
최호 기자 snoop@etnews.com
