의료 인공지능(AI)를 믿으려면 결과뿐 아니라 '왜 그렇게 판단했는지'도 알아야 한다.
고려대학교는 크리스티안 왈라븐(Christian Wallraven) 인공지능학과 교수 연구팀이 고려대 안암병원 영상의학과 유성혜·김보규·박아림 교수 연구팀과의 융합 연구를 통해 의료 AI 평가 지표 중 '강건성'이 가장 신뢰할 수 있는 핵심 기준임을 입증했다고 24일 밝혔다.
강건성(Robustness)은 같은 구조의 AI를 서로 다른 조건으로 여러 번 학습시켰을 때, 설명 결과가 얼마나 일관되게 유지되는지를 나타내는 지표다. 값이 높을수록 특정 학습에 우연히 의존하지 않는 안정적이다.
딥러닝 AI는 뇌 MRI 판독처럼 어려운 의료 영상 분석에서 전문의 수준의 성능을 보인다. 하지만 AI가 어떤 근거로 결론을 내렸는지를 파악하기 어려운, 이른바 '블랙박스' 문제 때문에 실제 진료 현장 도입이 쉽지 않은 상황이다. 따라서 AI의 판단 근거를 사람이 이해할 수 있게 보여주는 '설명가능 인공지능(XAI)' 기술 개발이 활발하게 이뤄지고 있다. 그동안 AI의 진단과 설명이 '얼마나 믿을 만한가'를 채점하는 평가 지표들이 여럿 제안됐지만, 정작 이 지표들이 실제 임상적으로 의미가 있는지는 체계적으로 검증된 적이 없었다.
연구팀은 영국 바이오뱅크(UK Biobank)와 알츠하이머병 신경영상 이니셔티브(ADNI)의 뇌 MRI 약 4만 건을 기초 데이터로 활용해, 서로 다른 9가지 딥러닝 모델 구조와 8가지 대표적인 설명 기법을 조합하는 방식으로 총 1만 건 이상의 대규모 시뮬레이션 분석을 수행했다. 이는 수십 건에 그쳤던 기존 연구에 비해 대폭 확장된 규모다.
그 결과 충실성(얼마나 핵심을 짚었는지), 복잡성(설명이 직관적이고 단순한지) 등 기존에 널리 쓰이던 평가 지표들은 실제 임상적 근거와 잘 맞지 않거나 모델 구조에 따라 점수가 크게 달라지는 한계를 보였다.
반면 여러 평가 지표 중 강건성만이 병리학적 통계(뇌 형태 분석)와 영상의학과 전문의의 판단 모두에 일관되게 부합했다. 또 강건성 지표는 AI 모델이 바뀌어도 평가가 흔들리지 않는 높은 범용성을 보였으며, 단 하나의 AI 모델만으로도 신속하고 효율적으로 계산할 수 있어 실제 의료 현장 활용에 매우 적합한 것으로 나타났다.
크리스티안 왈라븐 교수는 “이번 연구는 의료 AI의 설명이 '얼마나 믿을 만한가'를 평가하는 기준을 임상 근거와 체계적으로 연결했다는 데 의의가 있다”며 “안정적이고 효율적인 강건성 지표를 통해 병원 현장에서 신뢰할 수 있는 AI 설명을 가려낼 수 있을 것으로 기대한다”고 말했다.
본 연구 성과는 국제 학술지인 'Medical Image Analysis(IF=11.8)' 온라인에 6월 16일 게재됐다.
조호현 기자 hohyun@etnews.com