[論文レビュー] Additive MIL: Intrinsically Interpretable Multiple Instance Learning for Pathology

Syed Ashar Javed, Dinkar Juyal+4 more|arXiv (Cornell University)|Jun 3, 2022

AI in cancer detection被引用数 37

ひとこと要約

この論文は、スライド予測へのパッチレベルの寄与を正確に提供する intrinsic interpretable MIL フレームワーク Additive MIL を導入し、競争力の性能を維持し、任意の MIL モデルを加法形に変換して正確な空間的クレジット割り当てを可能にする。

ABSTRACT

Multiple Instance Learning (MIL) has been widely applied in pathology towards solving critical problems such as automating cancer diagnosis and grading, predicting patient prognosis, and therapy response. Deploying these models in a clinical setting requires careful inspection of these black boxes during development and deployment to identify failures and maintain physician trust. In this work, we propose a simple formulation of MIL models, which enables interpretability while maintaining similar predictive performance. Our Additive MIL models enable spatial credit assignment such that the contribution of each region in the image can be exactly computed and visualized. We show that our spatial credit assignment coincides with regions used by pathologists during diagnosis and improves upon classical attention heatmaps from attention MIL models. We show that any existing MIL model can be made additive with a simple change in function composition. We also show how these models can debug model failures, identify spurious features, and highlight class-wise regions of interest, enabling their use in high-stakes environments such as clinical decision-making.

研究の動機と目的

• 臨床決定の重要性が高く、偽信号のリスクがあるため、病理学における解釈可能な機械学習を動機づける。
• 画像パッチに対して内在的で正確な空間的クレジット割り当てを生み出す MIL の定式化を開発する。
• 加法性を導入しても予測性能を犠牲にしないことを保証する。
• 既存の MIL モデルが単純な関数組成の変更で加法形へ変換可能であることを示す。
• ヒートマップと専門家の注釈との整合性が向上し、デバッグやクラス別解析の有用性を示す。

提案手法

• クラスごとに正確なパッチ寄与を達成するために MIL の加法的予測子を定義する。
• 最終予測子を加法的組成に置換する: p_Additive(x) = sum_i psi_p(m_i(x)).
• 加法 MIL の寄与と Shapley 値との等価性を示し、正確な周辺パッチ寄与を提供する。
• プーリングベースの MIL モデルは分類器層を再定式化することで加法的にできることを示す。
• パッチごとのクラス寄与を提供し、興奮性（促進）と抑制性のパッチ効果を区別する。
• 真の周辺寄与を反映するクラス別ヒートマップ（パッチごと）を生成する。

実験結果

リサーチクエスチョン

• RQ1 Additive MILはモデル予測に忠実な intrinsic, exact パッチレベルのクレジット割り当てを提供できるか？
• RQ2 加法構造の導入は非加法 MIL 変種と比較して予測性能を維持または向上させるか？
• RQ3 Additive MIL のヒートマップは専門家の領域注釈とよりよく一致し、クラス別の解釈性を可能にするか？
• RQ4 既存の MIL モデルを単純な再定式化で Additive MIL に変換して精度を失わずに済むか？

主な発見

Method	Camelyon16 Accuracy	Camelyon16 AUC	tcga nsclc Accuracy	tcga nsclc AUC	tcga rcc Accuracy	tcga rcc AUC
Mean Pooling mil	0.751	0.707	0.830	0.925	0.918	0.980
Mean Pooling mil + Additive	0.734	0.687	0.866	0.924	0.902	0.974
Attention mil [abmil]	0.773	0.750	0.883	0.946	0.878	0.978
Attention mil + Additive	0.830	0.846	0.886	0.941	0.915	0.983
Trans mil [36]	0.805	0.775	0.878	0.932	0.915	0.983
Trans mil + Additive	0.805	0.844	0.895	0.934	0.911	0.986

• Additive MIL は 3 つの病理データセットで標準の Attention MIL と同等またはそれ以上の予測性能を達成する。
• Additive ヒートマップは専門家の領域注釈と Attention MIL ヒートマップよりもより正確に一致する。
• 本手法はクラス別のパッチ寄与を提供し、クラスごとに興奮性と抑制性の領域を区別する。
• パッチ寄与は最終予測と線形関係を持ち、周辺パッチの影響を忠実に可視化できる。
• どの MIL モデルも最終関数組成を切り替えるだけで加法的にでき、性能を維持しつつ固有の解釈性を得られる。
• Additive MIL ヒートマップは偽の特徴や失敗例を強調することでモデルのデバッグをサポートする。