SAS가 한국 기업의 AI에 대한 신뢰와 실제 관리 역량 사이의 격차가 1년 만에 크게 줄었다는 연구 결과를 발표했다.
SAS가 IDC 리서치 인사이트를 바탕으로 분석한 '데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학'에 공개된 내용이다.
우리나라 AI '신뢰 격차'는 지난해 28.9점에서 올해 1.5점으로 27.4점 줄었다. 기업이 AI를 얼마나 신뢰하는지 '체감 신뢰'와 실제 AI 시스템이 얼마나 안전하게 작동하는지 '실제 관리 역량' 간 차이를 나타내는 지표로, 점수가 낮을수록 안전한 AI 활용에 대한 높은 신뢰를 의미한다.
한국은 지난 1년간 AI에 대한 과도한 기대가 걷히며 체감 신뢰는 낮아지고(73.9점→58.6점), 실제 관리 체계는 발전하면서(45점→57.1점) 두 지표가 거의 일치하게 됐다.
격차가 줄어든 큰 이유 중 하나로 한국 기업들이 AI 관리·감독 체계를 빠르게 강화한 결과로 나타났다. 실제 한국의 '모델 거버넌스와 감독' 점수는 55.8점으로 전년 대비 9.3점 올라 조사 항목 중 개선을 보였다.
다만 AI 핵심 토대는 여전히 약한 것으로 드러났다. AI 판단 기준을 쉽게 보여주는 '설명 가능성과 공정성'(54.6점)과 기본 원천인 '데이터 품질 및 거버넌스'(53.9점)는 1년 전과 비교해 소폭 상승하는 데 그쳤다. '책임 있는 AI 정책'(59.5점)은 점수 변화 없이 제자리에 머물렀다.
모델 거버넌스와 감사 체계는 빠르게 강화된 반면, 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업은 1.9%에 불과했다.
또 한국 기업의 향후 최우선 과제로 '데이터 품질'과 '설명 가능성'을 꼽았다. 스스로 판단하고 행동하는 '에이전틱 AI'를 도입한 한국 기업 비율이 42.6%에 달하기 때문이다.
AI가 사람 대신 자율적으로 일을 처리하는 비중이 늘어나는 만큼 AI가 결정을 내린 경위를 설명하지 못하거나 잘못된 데이터를 학습하면 심각한 비즈니스 리스크를 초래할 수 있다고 지적했다. 실제 사용자가 AI 추천을 무시하거나 직접 수정하는 큰 이유로 'AI가 판단 근거를 설명하지 못한다는 점'이 꼽혔다.
보고서는 AI에 대한 기대와 실제 관리 역량을 일치시키고 안정적인 데이터와 관리 체계를 구축하는 것은 단순한 리스크 예방을 넘어 기업의 실질적 사업 성과와 직결된다고 강조했다.
글로벌 조사 결과에 따르면 최적화된 데이터 인프라를 갖춘 기업은 그렇지 않은 기업보다 높은 목표 투자 대비 성과(ROI)를 달성할 확률이 4배 높았으며, 데이터 품질과 설명 가능성 통제를 의무화할 가능성도 6배 높았다.
이중혁 SAS 코리아 대표는 “한국 기업의 AI 신뢰 격차가 1년 사이 급격히 줄어든 것은 거버넌스 구축과 현실적 리스크 인식이 빠르게 이뤄졌다는 긍정적 신호”라며 “한국이 AI 확장을 실질적 비즈니스 성과로 이어가려면 거버넌스 구축과 발맞춰 AI 판단 근거를 설명하고 정확성·재현성을 갖춘 데이터 기반을 완성하는 게 중요한 과제”라고 말했다.
이번 조사는 세계 28개국 2699명 비즈니스·IT 의사결정권자를 대상으로 진행됐다. 은행·보험·생명과학·공공 부문을 중심으로 기업의 AI 활용 현황과 신뢰 구축 수준을 심층 분석했다.
글로벌 조사에 따르면 체계적 데이터 인프라와 의사결정 과정을 설명할 수 있는 AI 모델, 거버넌스 체계를 우선시하는 기업일수록 보다 높은 재무·운영적 가치를 창출하고 있는 것으로 나타났다. 높은 AI 성숙도가 AI를 효과적으로 확장하고 지속 가능한 비즈니스 성과를 실현하는 핵심 동력임을 시사한다.
실제 신뢰할 수 있는 AI 체계를 제대로 갖춘 기업이 그렇지 않은 기업보다 ROI를 달성할 가능성이 15배 더 높았으며 거버넌스와 데이터 품질, 감사 가능성 측면에서 우수한 상위 기업군은 AI 도입으로 2배 이상 ROI를 거뒀다.
또 세계 응답자의 76%가 생성형 AI를 신뢰하고 있고 스스로 행동을 취하는 에이전틱 AI는 응답자의 66%로부터 신뢰 받는 것으로 조사됐다.
박종진 기자 truth@etnews.com
