[论文解读] Additive MIL: Intrinsically Interpretable Multiple Instance Learning for Pathology

Syed Ashar Javed, Dinkar Juyal+4 more|arXiv (Cornell University)|Jun 3, 2022

AI in cancer detection被引用 37

一句话总结

本文引入 Additive MIL，一种本质可解释的 MIL 框架，能够对滑动（slide）预测提供精确的补丁级贡献，同时保持竞争力的表现，并且可以将任意 MIL 模型转换为加性形式以实现精确的空间信用分配。

ABSTRACT

Multiple Instance Learning (MIL) has been widely applied in pathology towards solving critical problems such as automating cancer diagnosis and grading, predicting patient prognosis, and therapy response. Deploying these models in a clinical setting requires careful inspection of these black boxes during development and deployment to identify failures and maintain physician trust. In this work, we propose a simple formulation of MIL models, which enables interpretability while maintaining similar predictive performance. Our Additive MIL models enable spatial credit assignment such that the contribution of each region in the image can be exactly computed and visualized. We show that our spatial credit assignment coincides with regions used by pathologists during diagnosis and improves upon classical attention heatmaps from attention MIL models. We show that any existing MIL model can be made additive with a simple change in function composition. We also show how these models can debug model failures, identify spurious features, and highlight class-wise regions of interest, enabling their use in high-stakes environments such as clinical decision-making.

研究动机与目标

• 出于临床决策的高风险性以及可能出现的虚假信号风险，推动病理学领域的可解释性机器学习。
• 开发一种 MIL 形式，使其能够对图像补丁提供内在的、精确的空间信用分配。
• 通过引入加性确保预测性能不被牺牲。
• 证明现有的 MIL 模型可以通过简单的函数组合变更转换为加性形式。
• 展示热图与专家标注的一致性提升，以及在调试和类别级分析中的实用性。

提出的方法

• 为 MIL 定义一个加性预测器，以实现每个类别的补丁级精确贡献。
• 将最终预测器替换为加性组成：p_Additive(x) = sum_i psi_p(m_i(x)).
• 证明加性 MIL 的贡献与 Shapley 值等价，提供精确的边际补丁贡献。
• 证明任何基于池化的 MIL 模型都可以通过重新构造分类器层使其成为加性形式。
• 提供逐补丁的类别贡献，并区分兴奋性与抑制性补丁效应。
• 生成按类别分的热图（每个补丁），反映真实的边际贡献。

实验结果

研究问题

• RQ1 Additive MIL 能否提供对模型预测忠实的、内在的、精确的补丁级信用分配？
• RQ2 引入加性结构是否能保持或提升相对于非加性 MIL 变体的预测性能？
• RQ3 Additive MIL 的热图是否与专家区域标注更一致，并实现类别级解释性？
• RQ4 现有的 MIL 模型是否可以通过简单的改写转换为 Additive MIL 且不损失精度？

主要发现

方法	Camelyon16 准确率	Camelyon16 AUC	tcga nsclc 准确率	tcga nsclc AUC	tcga rcc 准确率	tcga rcc AUC
Mean Pooling mil	0.751	0.707	0.830	0.925	0.918	0.980
Mean Pooling mil + Additive	0.734	0.687	0.866	0.924	0.902	0.974
Attention mil [abmil]	0.773	0.750	0.883	0.946	0.878	0.978
Attention mil + Additive	0.830	0.846	0.886	0.941	0.915	0.983
Trans mil [36]	0.805	0.775	0.878	0.932	0.915	0.983
Trans mil + Additive	0.805	0.844	0.895	0.934	0.911	0.986

• Additive MIL 在三个病理数据集上的预测性能与标准 Attention MIL 相当或更优。
• 与 Attention MIL 热图相比，Additive 热图与专家区域标注的对齐更精确。
• 该方法提供按类别的补丁贡献，并区分每个类别的兴奋性与抑制性区域。
• 补丁贡献与最终预测线性相关，便于真实可视化边际补丁影响。
• 通过切换最终函数组合，任何 MIL 模型都可变为加性形式，在保持性能的同时获得内在可解释性。
• Additive MIL 热图通过突出虚假特征和失败案例来支持模型调试。