[논문 리뷰] Scalable, Axiomatic Explanations of Deep Alzheimer's Diagnosis from Heterogeneous Data

Sebastian Pölsterl, Christina Aigner외 1명|arXiv (Cornell University)|2021. 07. 13.

Explainable Artificial Intelligence (XAI)참고 문헌 29인용 수 4

한 줄 요약

이 논문은 알츠하이머병 진단에서 이질적인 데이터—3D 신경해부학적 점군과 표본 생물학적 마커—를 사용하여 깊이 신경망 예측을 설명하기 위한 확장 가능하고 공리적인 방법인 SVEHNN을 제안한다. 훈련된 DNN를 경량 확률적 네트워크로 변환함으로써 SVEHNN은 특성 수에 대해 제곱 복잡도로 Shapley 값의 효율적 근사를 가능하게 하여 충실하고 공리적인 설명을 제공하며, 해부학적 특성 기여도를 드러내며, 히포카무스 형태와 p-tau, APOE4와 같은 생물학적 마커를 포함한 임상적으로 의미 있는 기여도를 밝혀낸다.

ABSTRACT

Deep Neural Networks (DNNs) have an enormous potential to learn from complex biomedical data. In particular, DNNs have been used to seamlessly fuse heterogeneous information from neuroanatomy, genetics, biomarkers, and neuropsychological tests for highly accurate Alzheimer's disease diagnosis. On the other hand, their black-box nature is still a barrier for the adoption of such a system in the clinic, where interpretability is absolutely essential. We propose Shapley Value Explanation of Heterogeneous Neural Networks (SVEHNN) for explaining the Alzheimer's diagnosis made by a DNN from the 3D point cloud of the neuroanatomy and tabular biomarkers. Our explanations are based on the Shapley value, which is the unique method that satisfies all fundamental axioms for local explanations previously established in the literature. Thus, SVEHNN has many desirable characteristics that previous work on interpretability for medical decision making is lacking. To avoid the exponential time complexity of the Shapley value, we propose to transform a given DNN into a Lightweight Probabilistic Deep Network without re-training, thus achieving a complexity only quadratic in the number of features. In our experiments on synthetic and real data, we show that we can closely approximate the exact Shapley value with a dramatically reduced runtime and can reveal the hidden knowledge the network has learned from the data.

연구 동기 및 목표

• 딥 신경망의 임상적 도입 장벽을 극복하기 위해 충실하고 해석 가능한 설명을 제공함으로써 알츠하이머병 진단에서의 적용을 목표로 한다.
• 국소 설명의 모든 기본 공리를 만족시키는 방법을 개발하여 이론적 강건성을 확보한다.
• 재학습 없이도 이질적 입력—3D 신경해부학적 형태와 표본 생물학적 마커—에 대한 효율적 설명을 가능하게 한다.
• 딥 네트워크가 학습한 숨겨진 지식을 임상적 알츠하이머병 이해와 일치하는 방식으로 드러낸다.
• 고차원 생물의학 데이터에서 정확한 Shapley 값 계산의 지수적 계산 비용을 극복한다.

제안 방법

• SVEHNN은 국소 설명의 이론적 기초로 Shapley 값을 사용하여 완전성, 영향력 없는 플레이어, 대칭성, 선형성, 연속성, 단조성, 척도 불변성 등 일곱 가지 핵심 공리를 모두 충족시킨다.
• 모델 재학습 없이도 층 단위 변환을 통해 사전 훈련된 깊이 신경망을 경량 확률적 딥 네트워크로 변환함으로써 모델 행동을 유지한다.
• 이 변환은 특성 수에 대해 제곱 복잡도로 Monte Carlo 샘플링을 사용한 Shapley 값의 효율적 근사를 가능하게 하며, 지수적 계산을 대체한다.
• 확률적 층을 적용하여 활성화 불확실성을 모델링함으로써 기여도 근사를 빠르고 정확하게 수행할 수 있다.
• 안정적인 근사를 위해 힐 베이시스(hull baseline)를 사용하고, 오차 분석을 위해 합성 데이터와 ADNI의 실제 임상 데이터를 모두 평가한다.
• 각 환자별로 설명을 시각화하여 특성 중요도 점수와 뇌 구조(예: 히포카무스 CA1 하위영역)의 공간 중요도 맵을 제공한다.

실험 결과

연구 질문

• RQ1 3D 신경해부학적 형태와 표본 생물학적 마커를 조합한 이질적 딥 네트워크에 대해 Shapley 값이 효율적으로 근사될 수 있는가?
• RQ2 제안된 SVEHNN 방법이 Shapley 값의 이론적 보장을 유지하면서도 계산 가능성을 확보하는가?
• RQ3 SVEHNN은 p-tau, APOE4 및 CA1에서의 히포카무스 위축과 같은 임상적으로 의미 있는 패턴을 드러낼 수 있는가?
• RQ4 정밀도와 런타임 측면에서 SVEHNN의 근사 품질은 정확한 Shapley 값과 다른 기준 대비 어떻게 비교되는가?
• RQ5 SVEHNN의 설명은 알츠하이머병 생물학적 마커에 대한 기존 임상 지식과 어느 정도 일치하는가?

주요 결과

• SVEHNN은 알츠하이머병 신경영상연구(ADNI) 테스트 세트에서 균형 임계값 정확도 0.942를 달성하여 뛰어난 예측 성능를 입증했다.
• 합성 데이터에서 SVEHNN의 근사 오차는 낮았으며, 평균 제곱오차(MSE)는 0.008, 정규화된 할당 누적 수익도(NDCG)는 0.986로 정확한 Shapley 값에 높은 충실도를 보였다.
• 계산 비용을 지수적 복잡도에서 제곱 복잡도로 감소시켜 실제 생물의학 데이터에 대한 실용적 구현을 가능하게 하였다.
• 설명 결과에 따르면 일부 환자에서는 히포카무스 형태가 진단에 매우 중요했고, 다른 환자에서는 p-tau 및 APOE4와 같은 표본 생물학적 마커가 주요 기여도를 차지했다.
• 공간 기여도 맵은 히포카무스의 CA1 하위영역이 알츠하이머병 진단에서 핵심 영역임을 특정하여 임상 문헌과 일치하였다.
• 개별 환자 예측을 성공적으로 설명하였으며, 한 AD 환자에서 히포카무스 형태와 p-tau가 최상위 기여도를 보여 임상적 타당성을 검증하였다.