[論文レビュー] IA-GCN: Interpretable Attention based Graph Convolutional Network for Disease prediction

Anees Kazi, Soroush Farghadani+1 more|arXiv (Cornell University)|Mar 29, 2021

Machine Learning in Healthcare被引用数 6

ひとこと要約

本稿では、解釈可能性の注目メカニズムを訓練プロセスに直接統合することで、モデル性能と臨床的解釈可能性の両方を向上させる、新しいグラフ畳み込みニューラルネットワークIA-GCNを提案する。疾患、年齢、性別の予測を同時に最適化し、潜在的集団レベルのグラフと特徴レベルの注目を、独自の損失関数を用いて統合的に最適化することで、Tadpoleでは3.2%、UKBBでは1.6–2%の精度向上を達成した。また、既知のバイオマーカーと整合する臨床的に意味のある特徴解釈を提供している。

ABSTRACT

Interpretability in Graph Convolutional Networks (GCNs) has been explored to some extent in computer vision in general, yet, in the medical domain, it requires further examination. Moreover, most of the interpretability approaches for GCNs, especially in the medical domain, focus on interpreting the model in a post hoc fashion. In this paper, we propose an interpretable graph learning-based model which 1) interprets the clinical relevance of the input features towards the task, 2) uses the explanation to improve the model performance and, 3) learns a population level latent graph that may be used to interpret the cohort's behavior. In a clinical scenario, such a model can assist the clinical experts in better decision-making for diagnosis and treatment planning. The main novelty lies in the interpretable attention module (IAM), which directly operates on multi-modal features. Our IAM learns the attention for each feature based on the unique interpretability-specific losses. We show the application on two publicly available datasets, Tadpole and UKBB, for three tasks of disease, age, and gender prediction. Our proposed model shows superior performance with respect to compared methods with an increase in an average accuracy of 3.2% for Tadpole, 1.6% for UKBB Gender, and 2% for the UKBB Age prediction task. Further, we show exhaustive validation and clinical interpretation of our results.

研究の動機と目的

• 予測性能と解釈可能性の両方を、事後的なアプローチではなく、訓練プロセスに直接統合するGCNベースのモデルの開発。
• 患者データから集団レベルの潜在的グラフを学習し、集団レベルの関係性やパターンを明らかにすること。
• 解釈可能性に特化した損失関数から導出される注目重みを用いて、モデル性能の向上を図ること。
• 入力特徴の注目重みが臨床的知識や真の相関関係と整合することを保証すること。
• アブレーションスタディと選択された特徴の臨床的相関を用いて、モデルの解釈可能性を検証すること。

提案手法

• タスク損失 $L_c$ と解釈可能性に特化した損失 $L_{IA}$ の二重損失目的関数を用いて、マルチモodal臨床特徴の注目重みを学習する解釈可能注目モジュール（IAM）を導入。
• 特徴レベルの損失 $F_{MEL}$ と $F_{MSL}$ を $L_{IA}$ と組み合わせた独自の損失関数を採用し、臨床的に関連する特徴への注目を促進。
• 事前に定義されたグラフに依存せずに、患者の類似性を捉えることで、潜在的集団グラフを学習するグラフ学習モジュール（GLM）を採用。
• 疾患／年齢／性別分類、潜在的グラフ構築、解釈可能な特徴注目という3つの目的を、エンドツーエンドで同時に最適化する。
• 注目重みを用いて動的特徴選択を実行し、モデルのロバスト性と性能を向上。
• タスク損失と解釈可能性損失のバランスを調整するハイパーパrameter $\alpha$ を導入し、最適な性能は $\alpha=0.6$ のときを示した。

実験結果

リサーチクエスチョン

• RQ1 GCNモデルは、予測性能、潜在的グラフ学習、解釈可能な特徴注目を、エンドツーエンドで同時に最適化できるか？
• RQ2 解釈可能性を専用の損失関数で統合することで、モデルの精度と特徴選択の臨床的妥当性が向上するか？
• RQ3 IAMが学習する注目重みは、アルツハイマー病および加齢研究における既知の臨床バイオマーカーとどの程度相関するか？
• RQ4 解釈可能性損失 $L_{IA}$ と潜在的グラフ学習モジュールは、全体のモデル性能にどの程度寄与しているか？
• RQ5 モデルの注目メカニズムは、アルツハイマー病予測において、認知テストやPET FDGといった臨床的に関連する特徴を特定できるか？

主な発見

• IA-GCNは、ベースライン手法と比較して、アルツハイマー病予測においてTadpoleデータセットで平均3.2%の精度向上を達成した。
• UKBBデータセットでは、性別分類で1.6%、年齢分類で2%の性能向上を示した。
• 解釈可能性に特化した損失 $L_{IA}$ は不可欠である：$\alpha=0$ の場合、性能が著しく低下し、無関係な特徴の抑制に果たす役割が明確に示された。
• モデルの注目重みは、真の特徴重要度と強い相関（p<0.05）を示した。特にTadpoleでは認知テスト（CDRBS、MMSE）が、UKBBの年齢予測では皮質灰色 matter体積に関連して顕著であった。
• アブレーションスタディの結果、IAMが選択した特徴のみで学習すると最高の性能が得られ、逆にそれらを除外すると精度が著しく低下した。
• GLMが学習した潜在的集団グラフは、クラス内クラスタリングとクラス間接続を示しており、モデルが集団レベルの構造を適切に捉えていることを裏付けた。