[论文解读] Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows

Junchi Yu, Tingyang Xu+1 more|arXiv (Cornell University)|Dec 18, 2021

Machine Learning in Healthcare被引用 5

一句话总结

本文提出 IFEXPLAINER，一种用于数字病理学的新型图神经网络（GNN）解释器，通过使用一种新度量——f-information，测量定向信息流，从而生成兼具必要性与充分性的解释。在 BRACS 乳腺癌分型数据集上，其在保真度、可分性和病理科医生可理解性方面均优于现有方法。

ABSTRACT

As Graph Neural Networks (GNNs) are widely adopted in digital pathology, there is increasing attention to developing explanation models (explainers) of GNNs for improved transparency in clinical decisions. Existing explainers discover an explanatory subgraph relevant to the prediction. However, such a subgraph is insufficient to reveal all the critical biological substructures for the prediction because the prediction will remain unchanged after removing that subgraph. Hence, an explanatory subgraph should be not only necessary for prediction, but also sufficient to uncover the most predictive regions for the explanation. Such explanation requires a measurement of information transferred from different input subgraphs to the predictive output, which we define as information flow. In this work, we address these key challenges and propose IFEXPLAINER, which generates a necessary and sufficient explanation for GNNs. To evaluate the information flow within GNN's prediction, we first propose a novel notion of predictiveness, named $f$-information, which is directional and incorporates the realistic capacity of the GNN model. Based on it, IFEXPLAINER generates the explanatory subgraph with maximal information flow to the prediction. Meanwhile, it minimizes the information flow from the input to the predictive result after removing the explanation. Thus, the produced explanation is necessarily important to the prediction and sufficient to reveal the most crucial substructures. We evaluate IFEXPLAINER to interpret GNN's predictions on breast cancer subtyping. Experimental results on the BRACS dataset show the superior performance of the proposed method.

研究动机与目标

• 通过确保解释对预测而言既必要又充分，解决数字病理学中 GNN 解释不忠实的问题。
• 克服现有解释器的局限性，这些解释器生成的子图要么必要但不充分，要么反之。
• 提出一种新的信息流度量——f-information，该度量具有方向性，并考虑了 GNN 模型的实际容量。
• 提出一个基于子图层面可分性的综合评估框架，从病理科医生的视角评估解释质量。
• 实现在乳腺癌分型等临床任务中对 GNN 预测的高效且忠实的可解释性。

提出的方法

• 引入 f-information 作为从输入子图到预测结果的定向、且考虑 GNN 容量能力的信息流度量。
• 将 IFEXPLAINER 建模为一个优化问题，以最大化从解释性子图到预测结果的信息流。
• 通过最小化子图移除后的残余信息流，确保解释的必要性与充分性。
• 使用可微分的节点掩码，并结合熵正则化与大小正则化，生成二值化、可解释的重要性得分。
• 设计一种可计算的优化方案，高效生成解释，且无需访问 GNN 的内部嵌入。
• 提出基于子图可分性的病理科医生可理解的评估指标，以评估解释质量。

实验结果

研究问题

• RQ1 我们能否定义一种更能忠实反映 GNN 中信息流的度量，使其同时考虑模型容量与方向性？
• RQ2 我们如何生成对给定预测而言既必要又充分的 GNN 解释？
• RQ3 我们能否设计一种解释方法，生成二值化且病理科医生可理解的重要性得分？
• RQ4 基于子图可分性的所提评估指标，与现有方法相比，能否有效反映解释质量？
• RQ5 IFEXPLAINER 在真实世界数字病理学数据上，与最先进解释器相比，在保真度与可解释性方面有多大的性能优势？

主要发现

• 在 BRACS 数据集上，IFEXPLAINER 在所有稀疏度水平下均取得最高的 Fidelity- 得分，表明其解释对预测最具必要性。
• IFEXPLAINER 的 Fidelity+ 得分优于所有基线方法，证实其在被移除时对预测改变最具充分性。
• 可视化结果表明，IFEXPLAINER 生成了二值化的重要性得分，清晰强调了对乳腺癌分型至关重要的细胞核，而梯度法或 GRAPHLRP 方法则对大多数细胞核分配了低分。
• 消融研究证实，大小正则化与熵正则化两项均至关重要：若去除任一项，生成的解释将过大或缺乏二值结构。
• 所提出的基于可分性的评估指标能有效区分高质量解释，IFEXPLAINER 在成对与聚合可分性得分上均优于基线方法。
• 通过定性与定量分析验证，IFEXPLAINER 生成的解释在忠实度与可解释性方面均优于现有方法。