인공지능(AI) 추천 투명성을 높이기 위해 설명을 무조건 길고 자세하게 제공하는 것이 효과적이지 않다는 연구 결과가 제시됐다. 추천에 어떤 데이터를 활용했는지, 이용자가 무엇을 하려는지에 따라 설명 방식도 달라져야 한다는 분석이다. 연구진은 일률적인 고지 의무보다 서비스 맥락에 맞춘 설명과 데이터 확인·수정·거부 등 이용자 선택권을 강화해야 한다고 제언했다.
서울대학교 국가미래전략원은 30일 이 같은 내용을 담은 'AI 추천의 투명성, 더 많은 설명이 정답인가?: AI 추천 투명성을 위한 정책 제언' 보고서를 발간했다. 박기완 서울대 경영대학 교수와 김예리 서울여대 데이터사이언스학과 교수가 연구진으로 참여했다. 연구진은 설명의 구체성, 추천에 활용된 데이터 유형, 이용자의 쇼핑 목적, 프라이버시 우려와 AI 리터러시 등을 중심으로 실증 연구를 진행했다.
◇설명을 더 자세히 해도 소비자 반응 개선되지 않아
연구진은 추천 근거의 구체성을 낮음·중간·높음의 세 수준으로 구분해 소비자 반응을 살폈다. 낮은 수준에서는 AI가 이용자의 쇼핑 프로파일에 기반해 추천했다는 포괄적인 설명을 제시하고, 중간 수준에서는 추천 판단 기준을 항목별로 제시했다. 높은 수준에서는 각 추천 상품과 판단 기준을 직접 연결해 상품별 추천 이유까지 설명했다.
분석 결과, 설명의 구체성을 높이는 것만으로 구매 의도와 플랫폼 태도가 일률적으로 개선되는 효과는 나타나지 않았다. 추천 이유를 상세하게 제시하는 것 자체가 소비자의 긍정적인 반응을 보장하지 않은 것이다.
반면 설명 길이와 추천 화면, 추천 결과를 동일하게 유지하고 추천에 활용된 데이터 유형만 직접 제공 정보(Provided), 행동 관찰 정보(Observed), 추론 정보(Inferred)로 달리한 실험에서는 소비자 반응에 뚜렷한 차이가 확인됐다.
연구진은 데이터 유형에 따른 소비자 반응이 형성되는 심리적 과정도 확인했다. 추천에 활용된 데이터 유형에 따라 먼저 추천이 자신에게 얼마나 맞춤화됐다고 느끼는지가 달라지고, 이러한 개인화 인식이 다시 추천 시스템에 대한 투명성 인식으로 이어지는 단계적 경로가 나타났다.
결국 이번 연구는 AI 추천 투명성에서 '얼마나 많이 설명하는가'보다 추천에 활용되는 데이터의 유형 등 '무엇을 설명하는가'가 소비자 반응에 더 중요할 수 있음을 시사한다.
◇같은 설명도 이용 목적과 특성에 따라 다르게 작용
설명의 구체성은 이용자의 쇼핑 목적과 결합했을 때도 서로 다른 반응을 보였다.
특히 중간 수준 설명에서 뚜렷한 구매 목적을 가진 과업 중심 이용자는 추천 설명에 이용자 선택을 유도하려는 의도가 있다고 가장 강하게 인식한 반면, 새로운 상품을 발견·탐색하려는 경험 중심 이용자는 이러한 인식을 가장 낮게 보였다.
이에 연구진은 발견·탐색형 서비스에서는 추천 기준을 다소 간결하게 제시하는 중간 수준 설명이 적합한 반면, 구매·비교 등 과업형 서비스에서는 기준만 나열하기보다 상품별 추천 이유와 비교 근거를 구체적으로 연결하는 방식이 적합할 수 있다고 설명했다. 다만 이러한 맥락별 설계의 인과적 효과는 실제 서비스 환경에서 추가 검증이 필요하다고 덧붙였다.
이용자 특성에 따라서도 데이터 유형에 대한 반응은 달라졌다. 특히 프라이버시 우려 수준이 높은 이용자 집단에서는 추천에 활용된 데이터 유형에 따라 평가에 유의한 차이가 나타났다. AI 리터러시 역시 반응 차이를 만드는 요인으로 확인됐다. AI 리터러시가 매우 높은 이용자에게서는 데이터 유형에 따른 유의한 차이가 나타나지 않았다. 이는 동일한 설명 기준을 모든 이용자와 서비스에 획일적으로 적용하기보다 이용자의 특성과 이용 맥락을 함께 고려할 필요가 있음을 보여준다.
◇AI 투명성, '더 많이'에서 '더 적정하게'로 가야
연구진은 이번 결과를 종합해, 단순히 고지 분량을 늘리는 것만으로 투명성과 소비자 보호 효과가 높아진다고 보기는 어렵다고 설명했다.
투명성 효과는 무엇을 고지하고 어떤 표현을 사용하는지에 따라, 적절한 조합 역시 서비스 유형과 이용자 특성에 따라 달라질 수 있다는 것이다.
이에 일률적인 고지 의무를 적용하기보다 최소한 가이드를 제공하면서 플랫폼이 자사 서비스 맥락과 이용자 특성에 맞춰 투명성 방식을 자율적으로 설계하도록 유도할 필요가 있다고 제언했다.
구체적으로 AI 추천에는 추천 사실과 핵심 이유, 활용된 데이터 성격을 명확하게 알리되 설명의 구체성은 서비스 맥락에 따라 조정할 필요가 있다. 발견·탐색 중심 영역과 구매·비교 등 과업 중심 영역에서 이용자 반응이 다르게 나타난 만큼 서비스 이용 목적과 맥락에 적합한 설명 방식을 적용해야 한다는 의미다.
이용자가 추천에 활용된 정보를 확인·수정하거나 해당 정보의 활용 여부를 선택하도록 재량권을 부여할 필요가 있다고 제안했다.
보고서는 AI 추천 투명성의 목표가 가능한 한 많은 정보를 제공하는 것이 아니라 이용자가 추천의 핵심 이유와 자신의 데이터가 어떻게 활용되는지를 이해하고, 필요할 때 관련 정보를 확인하거나 데이터 활용 여부를 선택할 수 있도록 하는 데 있다고 강조했다.
이를 위해 플랫폼은 추천 사실과 활용 데이터에 대한 명확한 안내 서비스 맥락에 적합한 설명 확인·수정·거부 등 실질적인 이용자 선택권을 서비스와 이용자 특성에 맞게 설계하는 것이 바람직하다고 제언했다.
변상근 기자 sgbyun@etnews.com
