[論文レビュー] Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows

Junchi Yu, Tingyang Xu+1 more|arXiv (Cornell University)|Dec 18, 2021

Machine Learning in Healthcare被引用数 5

ひとこと要約

本稿では、f情報という新しい指標を用いて方向性のある情報フローを測定することで、必要性と十分性を保証する、デジタル病理学における新しいGNN解釈手法IFEXPLAINERを提案する。BRACS乳がん亜型分類データセットにおいて、忠実度、分離性、病理医が理解可能な解釈の観点で、既存手法を上回る性能を発揮する。

ABSTRACT

As Graph Neural Networks (GNNs) are widely adopted in digital pathology, there is increasing attention to developing explanation models (explainers) of GNNs for improved transparency in clinical decisions. Existing explainers discover an explanatory subgraph relevant to the prediction. However, such a subgraph is insufficient to reveal all the critical biological substructures for the prediction because the prediction will remain unchanged after removing that subgraph. Hence, an explanatory subgraph should be not only necessary for prediction, but also sufficient to uncover the most predictive regions for the explanation. Such explanation requires a measurement of information transferred from different input subgraphs to the predictive output, which we define as information flow. In this work, we address these key challenges and propose IFEXPLAINER, which generates a necessary and sufficient explanation for GNNs. To evaluate the information flow within GNN's prediction, we first propose a novel notion of predictiveness, named $f$-information, which is directional and incorporates the realistic capacity of the GNN model. Based on it, IFEXPLAINER generates the explanatory subgraph with maximal information flow to the prediction. Meanwhile, it minimizes the information flow from the input to the predictive result after removing the explanation. Thus, the produced explanation is necessarily important to the prediction and sufficient to reveal the most crucial substructures. We evaluate IFEXPLAINER to interpret GNN's predictions on breast cancer subtyping. Experimental results on the BRACS dataset show the superior performance of the proposed method.

研究の動機と目的

• 予測のための忠実なGNN解釈が不足しているデジタル病理学分野に対処し、解釈が予測に対して必要かつ十分であることを保証する。
• 既存の解釈手法が、必要ではあるが十分でない、あるいは逆に十分ではあるが必要でない部分グラフを生成するという限界を克服する。
• GNNモデルの現実的な容量を考慮し、方向性を持つ情報フローの新たな測定指標「f情報」を考案する。
• 病理医の視点から解釈の質を評価するため、部分グラフレベルの分離性に基づく包括的な評価フレームワークを構築する。
• 乳がん亜型分類などの臨床的タスクにおけるGNN予測の効率的かつ忠実な解釈を可能にする。

提案手法

• 入力部分グラフから予測への情報フローを、方向性を持ち、GNNの容量を考慮した「f情報」という測定指標として導入する。
• 説明部分グラフから予測への情報フローを最大化する最適化問題としてIFEXPLAINERを定式化する。
• 部分グラフの削除後に残る情報フローを最小化することで、説明が必要かつ十分であることを保証する。
• バイナリ化され、解釈可能な重要度スコアを生成するため、エントロピーとサイズ正則化を施した微分可能ノードマスクを用いる。
• 内部GNN埋め込みにアクセスせずに、効率的に解釈を生成できる、実行可能な最適化スキームを設計する。
• 病理医が理解可能な評価指標を、部分グラフレベルの分離性に基づき提案し、解釈の質を評価する。

実験結果

リサーチクエスチョン

• RQ1 GNNにおける情報フローのより忠実な測定指標を定義できるか。特に、モデルの容量と方向性を考慮した指標であるか。
• RQ2 与えられた予測に対して、必要かつ十分なGNN解釈を生成する方法は何か。
• RQ3 バイナリ化され、病理医が理解可能な重要度スコアを生成する解釈手法を設計できるか。
• RQ4 部分グラフの分離性に基づく提案された評価指標は、既存手法と比較して解釈の質をどの程度的確に反映するか。
• RQ5 IFEXPLAINERは、実世界のデジタル病理学データにおいて、忠実度と解釈可能性の両面で最先端の解釈手法をどの程度上回るか。

主な発見

• IFEXPLAINERは、BRACSデータセットにおいて、すべてのスパarsityレベルで最高のFidelity-スコアを達成しており、予測に対して説明が最も必要であることを示している。
• IFEXPLAINERのFidelity+スコアは、すべてのベースラインを上回っており、説明を削除した際に予測が最も大きく変化することを確認している。
• 可視化結果から、IFEXPLAINERはバイナリ化された重要度スコアを生成しており、乳がん亜型分類に重要な核を明確に強調している。一方、勾配ベースやGRAPHLRP手法とは異なり、多くの核に対して低スコアを割り当てている。
• アブレーションスタディの結果、サイズ正則化項とエントロピー正則化項の両方が不可欠であることが確認された。これらの項を除去すると、説明が大きくなりすぎたり、バイナリ構造を失ったりする。
• 提案された分離性に基づく評価指標は、高品質な解釈を効果的に区別できており、IFEXPLAINERはペアワイズおよび集約的分離性スコアの両方でベースラインを上回った。
• 定性的および定量的分析により、IFEXPLAINERは、既存手法と比較して、より忠実かつより解釈可能な説明を生成することが検証された。