[논문 리뷰] Achievements and Challenges in Explaining Deep Learning based Computer-Aided Diagnosis Systems

Adriano Lucieri, Muhammad Naseer Bajwa외 2명|arXiv (Cornell University)|2020. 11. 26.

Explainable Artificial Intelligence (XAI)참고 문헌 108인용 수 7

한 줄 요약

이 논문은 의료 영상에서 딥러닝 기반의 보조진단(CAD) 시스템을 위한 최신의 해석 가능한 인공지능(xAI) 기법을 검토하며, 투명성과 임상적 신뢰를 향상시키기 위해 시각적, 텍스트 기반, 하이브리드 설명 방식에 중점을 둡니다. 생물학적 지표 발견 및 모델 보정 분야에서의 주요 성취를 밝히며, 표준화, 평가, 데이터 편향 문제를 지적하고, 실생활 적용을 가능하게 하기 위해 임상의와 AI 개발자 간의 밀접한 협업을 주장합니다.

ABSTRACT

Remarkable success of modern image-based AI methods and the resulting interest in their applications in critical decision-making processes has led to a surge in efforts to make such intelligent systems transparent and explainable. The need for explainable AI does not stem only from ethical and moral grounds but also from stricter legislation around the world mandating clear and justifiable explanations of any decision taken or assisted by AI. Especially in the medical context where Computer-Aided Diagnosis can have a direct influence on the treatment and well-being of patients, transparency is of utmost importance for safe transition from lab research to real world clinical practice. This paper provides a comprehensive overview of current state-of-the-art in explaining and interpreting Deep Learning based algorithms in applications of medical research and diagnosis of diseases. We discuss early achievements in development of explainable AI for validation of known disease criteria, exploration of new potential biomarkers, as well as methods for the subsequent correction of AI models. Various explanation methods like visual, textual, post-hoc, ante-hoc, local and global have been thoroughly and critically analyzed. Subsequently, we also highlight some of the remaining challenges that stand in the way of practical applications of AI as a clinical decision support tool and provide recommendations for the direction of future research.

연구 동기 및 목표

• 의료 분야에서 딥러닝 기반의 보조진단(CAD) 시스템의 설명 가능성을 분석하고 현재의 성취와 남아 있는 과제를 평가하는 것.
• 해석 가능한 인공지능(xAI)이 의료 의사결정에서의 투명성, 신뢰도 향상 및 AI의 임상적 수용을 어떻게 향상시키는지 평가하는 것.
• 실생활 적용을 저해하는 평가 기준, 데이터 품질, 인간-AI 협업의 격차를 특정하는 것.
• 데이터 기반 정확성과 지식 기반 해석 가능성의 조합을 포함하는 통합적이고 인간 중심의 xAI 프레임워크를 제안하는 것.
• 신뢰성, 완전성, 규제 준수를 보장하기 위해 xAI 기법에 대한 표준화되고 객관적인 평가 절차를 도입할 것을 촉구하는 것.

제안 방법

• 의료 영상 분석에서 후행적(post-hoc), 사전적(ante-hoc), 국소적(local), 전역적(global) 설명 기법에 대한 체계적 리뷰 및 비판적 분석.
• 해석 가능성과 임상적 관련성 측면에서 시각적(예: 정밀도 맵), 텍스트 기반, 다중모odal 설명 평가.
• 기존 질병 기준 검증, 새로운 생물학적 지표 발견, 모델 행동 보정을 위한 xAI 기법 평가.
• 임상의가 최종 의사결정 권한을 유지하면서 AI가 해석 가능한 지원을 제공하는 인간 중심의 설계(Human-in-the-Loop, HITL)에 중점을 둡니다.
• 데이터 기반 딥러닝과 지식 기반 모델을 융합하여 해석성을 향상시키는 하이브리드 접근 방식 제안.
• qualitative 및 quantitative 지표를 포함한, xAI 기법에 대한 표준화되고 객관적인 평가 프로토콜 필요성 제기.

실험 결과

연구 질문

• RQ1 현재 딥러닝 기반 CAD 시스템에서의 설명 기법은 임상 의사결정과 신뢰를 어떻게 지원하는가?
• RQ2 실생활 임상 환경에서 해석 가능한 AI를 구현하는 것을 저지하는 주요 기술적 및 조직적 과제는 무엇인가?
• RQ3 xAI 기법은 의료 영상에서 알려진 질병 기준을 검증하거나 새로운 생물학적 지표를 발견하는 데 어느 정도 기여할 수 있는가?
• RQ4 xAI 설명을 위한 표준화된 평가 프레임워크는 신뢰성 향상과 규제 승인을 어떻게 향상시킬 수 있는가?
• RQ5 의료 전문가와 AI 개발자 간의 협업은 효과적이고 신뢰할 수 있는 CAD 시스템을 구축하는 데 어떤 역할을 하는가?

주요 결과

• 정밀도 맵과 주의력 시각화 등 현재의 xAI 기법은 딥러닝 결정의 해석 가능성과 임상적 관련성을 높이는 데 잠재력을 보이고 있습니다.
• 해석 가능한 인공지능이 기능 할당 및 주의력 분석을 통해 새로운 잠재적 진단 생물학적 지표 발견을 지원한다는 증거가 점점 더 증가하고 있습니다.
• 기술적 진전에도 불구하고, xAI 기법에 대한 표준화된 평가 절차가 없어 주관적이고 일관성 없는 품질 평가가 발생하고 있습니다.
• 데이터 편향과 학습 데이터 내 인과적 맥락의 부재는 설명의 신뢰도를 제한하며, 특히 상관관계를 인과관계로 오해할 가능성이 높아집니다.
• 의사결정자(예: 의사, 환자, 규제 기관)의 요구에 맞게 설명이 의미 있고 완전하며 맞춤화되도록 하기 위해, 임상의와 AI 개발자 간의 밀접한 협업이 필수적입니다.
• 데이터 기반 딥러닝과 지식 기반 모델의 통합은 임상 AI 시스템에서 높은 정확성과 해석 가능성 동시 달성의 핵심적 길로 확인되었습니다.