[논문 리뷰] Looking deeper into interpretable deep learning in neuroimaging: a comprehensive survey

Md Mahfuzur Rahman, Vince D. Calhoun외 1명|arXiv (Cornell University)|2023. 07. 14.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 종합적 서베이는 신경영상에서의 해석 가능한 딥러닝을 검토하여, 모델 예측과 관련된 뇌 구조 및 기능을 드러내는 현재의 방법, 과제, 그리고 응용을 종합한다. 이는 사후 설명 기법을 평가하고, 해석 가능성 검증의 한계를 밝히며, 더 투명한 딥러닝 모델을 통해 뇌 장애에 대한 과학적 이해를 향상시키기 위한 실질적인 지침을 제공한다.

ABSTRACT

Deep learning (DL) models have been popular due to their ability to learn directly from the raw data in an end-to-end paradigm, alleviating the concern of a separate error-prone feature extraction phase. Recent DL-based neuroimaging studies have also witnessed a noticeable performance advancement over traditional machine learning algorithms. But the challenges of deep learning models still exist because of the lack of transparency in these models for their successful deployment in real-world applications. In recent years, Explainable AI (XAI) has undergone a surge of developments mainly to get intuitions of how the models reached the decisions, which is essential for safety-critical domains such as healthcare, finance, and law enforcement agencies. While the interpretability domain is advancing noticeably, researchers are still unclear about what aspect of model learning a post hoc method reveals and how to validate its reliability. This paper comprehensively reviews interpretable deep learning models in the neuroimaging domain. Firstly, we summarize the current status of interpretability resources in general, focusing on the progression of methods, associated challenges, and opinions. Secondly, we discuss how multiple recent neuroimaging studies leveraged model interpretability to capture anatomical and functional brain alterations most relevant to model predictions. Finally, we discuss the limitations of the current practices and offer some valuable insights and guidance on how we can steer our future research directions to make deep learning models substantially interpretable and thus advance scientific understanding of brain disorders.

연구 동기 및 목표

• 신경영상에서의 해석 가능한 딥러닝 방법에 대한 체계적인 리뷰를 제공하여, 모델의 투명성과 과학적 해석 가능성에 집중한다.
• 최근의 신경영상 연구에서 해석 가능성 기법이 예측과 관련된 해부학적 및 기능적 뇌 이상을 식별하는 데 어떻게 활용되는지 분석한다.
• 현재 해석 가능성 실천 방식의 핵심적 한계를 특정하고, 사후 설명 기법의 신뢰성 검증을 수행한다.
• 해석 가능한 딥러닝을 발전시켜 뇌 장애에 대한 이해를 향상시키기 위한 근거 기반 권고를 제시한다.
• 의료 응용 분야에서 기술적 해석 가능성과 임상적/과학적 유용성 사이의 격차를 메운다.

제안 방법

• 해석 가능한 딥러닝의 방법적 발전과 과제에 중점을 두고, 109페이지 분량의 문헌에 대한 체계적 리뷰를 수행한다.
• 신경영상 연구에서 사용된 해석 가능성 기법을 사후, 본질적으로 해석 가능한, 하이브리드 접근 방식으로 분류한다.
• 자극도 지도, 주의 메커니즘, 계층별 책임 할당 방식이 뇌 영상 데이터(예: fMRI, MRI)에 어떻게 적용되는지 분석한다.
• 해석 가능성 기법의 검증 프레임워크 평가를 위해 인간이 개입하는 평가 및 통계적 일관성 검증을 포함한다.
• 최근의 신경영상 연구 사례 연구를 통합하여, 해석 가능성 기법이 생물학적으로 타당한 뇌 패턴을 드러내는 방식을 보여준다.
• 다양한 연구 간 해석 가능성 보고 방식의 방법론적 격차와 일관성 문제를 특정한다.

실험 결과

연구 질문

• RQ1 신경영상에서 다양한 해석 가능한 딥러닝 방법은 모델 예측과 관련된 뇌 구조 및 기능을 어떻게 드러내는가?
• RQ2 신경영상에서 사후 설명 기법의 신뢰성과 일관성을 검증하는 데 있어 핵심적인 과제는 무엇인가?
• RQ3 현재의 해석 가능성 기법은 뇌 장애 연구에서 과학적 발견을 어느 정도 지원하는가?
• RQ4 임상 및 연구 환경에서 투명성과 재현 가능성을 확보하기 위해 해석 가능성 기법은 어떻게 향상시킬 수 있는가?
• RQ5 신경영상 응용 분야의 딥러닝 파이프라인에 해석 가능성을 통합하기 위한 가장 효과적인 전략은 무엇인가?

주요 결과

• Grad-CAM 및 LRP와 같은 사후 설명 기법은 모델 예측과 관련된 뇌 영역을 성공적으로 강조하며, 일반적으로 알려진 신경해부학과 일치한다.
• 광범위하게 사용되고 있음에도 불구하고, 많은 해석 가능성 기법은 표준화된 검증을 갖추지 못해 자극도 지도의 오해를 유발할 수 있다.
• 해석 가능한 딥러닝 모델은 정신분열증과 알츠하이머병과 같은 질환과 관련된 기능적 및 구조적 뇌 이상을 식별하는 데 기여했다.
• 신경영상 연구 간 해석 가능성 지표 및 검증 절차 보고의 격차가 심각하여 재현 가능성과 신뢰도가 저하된다.
• 주의 기반 아키텍처와 같은 본질적으로 해석 가능한 모델은 성능을 유지하면서도 모델 투명성을 향상시키는 데 잠재력이 있다.
• 이 서베이는 통합된 벤치마크와 평가 프로토콜이 필요하며, 이를 통해 신경영상 분야에서 해석 가능성의 신뢰성을 표준화하고 향상시킬 수 있다.