[논문 리뷰] Additive MIL: Intrinsically Interpretable Multiple Instance Learning for Pathology

Syed Ashar Javed, Dinkar Juyal외 4명|arXiv (Cornell University)|2022. 06. 03.

AI in cancer detection인용 수 37

한 줄 요약

이 논문은 패치 수준 기여도를 정확히 제공하고, 경쟁력 있는 성능을 유지하며, 모든 MIL 모델을 추가적 형태로 전환해 공간적 크레딧 배분을 정밀하게 수행할 수 있는 본질적으로 해석 가능한 MIL 프레임워크 Additive MIL을 소개합니다.

ABSTRACT

Multiple Instance Learning (MIL) has been widely applied in pathology towards solving critical problems such as automating cancer diagnosis and grading, predicting patient prognosis, and therapy response. Deploying these models in a clinical setting requires careful inspection of these black boxes during development and deployment to identify failures and maintain physician trust. In this work, we propose a simple formulation of MIL models, which enables interpretability while maintaining similar predictive performance. Our Additive MIL models enable spatial credit assignment such that the contribution of each region in the image can be exactly computed and visualized. We show that our spatial credit assignment coincides with regions used by pathologists during diagnosis and improves upon classical attention heatmaps from attention MIL models. We show that any existing MIL model can be made additive with a simple change in function composition. We also show how these models can debug model failures, identify spurious features, and highlight class-wise regions of interest, enabling their use in high-stakes environments such as clinical decision-making.

연구 동기 및 목표

• 높은 위험도 임상 결정과 거짓 신호의 위험성으로 인해 병리학에서 해석 가능한 기계 학습의 필요성을 동기 부여합니다.
• 이미지 패치에 대한 고유하고 정확한 공간적 크레딧 배정을 제공하는 MIL 형식을 개발합니다.
• Additivity를 도입해 예측 성능 손실 없이 추가성을 보장합니다.
• 기존 MIL 모델을 간단한 함수 구성 변화로 Additive 형태로 변환할 수 있음을 보여줍니다.
• Heatmap가 전문가 주석과의 정렬을 개선하고 디버깅 및 클래스별 분석에 유용함을 시연합니다.

제안 방법

• MIL에 대한 정확한 패치 기여를 각 클래스별로 달성하기 위한 Additive 예측기를 정의합니다.
• 최종 예측기를 Additive 구성으로 대체합니다: p_Additive(x) = sum_i psi_p(m_i(x)).
• Additive MIL 기여와 Shapley 값 간 등가성을 보여주며, 정확한 한계의 패치 기여를 제공합니다.
• 클래스별로 풀링 기반 MIL 모델이 분류기 층을 재구성함으로써 Additive로 만들어질 수 있음을 시연합니다.
• 패치별 클래스 기여를 제공하고 자극적(excitatory) 대 억제적(inhibitory) 패치 효과를 구별합니다.
• 실제 한 패치의 마진 기여를 반영하는 클래스별 heatmap(패치별) 생성합니다.

실험 결과

연구 질문

• RQ1 Additive MIL이 모델 예측에 충실한 고유하고 정확한 패치 수준 크레딧 배정을 제공할 수 있는가?
• RQ2 Additive 구조를 도입하면 비-Additive MIL 변형에 비해 예측 성능이 유지되거나 향상되는가?
• RQ3 Additive MIL heatmap이 전문가 영역 주석과 더 잘 일치하고 클래스별 해석 가능성을 가능하게 하는가?
• RQ4 기존 MIL 모델을 간단한 재구성으로 Additive MIL로 변환하고 정확도 손실 없이 가능한가?

주요 결과

방법	Camelyon16 정확도	Camelyon16 AUC	tcga nsclc 정확도	tcga nsclc AUC	tcga rcc 정확도	tcga rcc AUC
Mean Pooling mil	0.751	0.707	0.830	0.925	0.918	0.980
Mean Pooling mil + Additive	0.734	0.687	0.866	0.924	0.902	0.974
Attention mil [abmil]	0.773	0.750	0.883	0.946	0.878	0.978
Attention mil + Additive	0.830	0.846	0.886	0.941	0.915	0.983
Trans mil [36]	0.805	0.775	0.878	0.932	0.915	0.983
Trans mil + Additive	0.805	0.844	0.895	0.934	0.911	0.986

• Additive MIL은 세 가지 병리 데이터 세트에서 표준 Attention MIL과 대등하거나 우수한 예측 성능을 달성합니다.
• Additive heatmap이 전문가 영역 주석과 더 정확하게 일치합니다.
• 본 방법은 클래스별 패치 기여를 제공하고 각 클래스별로 자극적 및 억제적 영역을 구분합니다.
• 패치 기여도는 최종 예측과 선형적으로 연결되어, 패치의 한계 효과를 충실하게 시각화합니다.
• 최종 함수 구성의 전환으로 Any MIL 모델을 Additive로 만들 수 있으며, 퍼포먼스를 유지하면서 고유 해석 가능성을 얻습니다.
• Additive MIL heatmap은 모델 디버깅을 돕고 잘못된 특징 및 실패 사례를 강조합니다.