[論文レビュー] PTGB: Pre-Train Graph Neural Networks for Brain Network Analysis

Yi Yang, Hejie Cui+1 more|arXiv (Cornell University)|May 20, 2023

Functional Brain Connectivity Studies被引用数 4

ひとこと要約

PTGB は、データ不足と一貫性のないパラセレーションアトラスの問題を二段階の対照学習とデータ駆動型アトラスマッピングパイプラインにより解決する自己教師付きグラフニューラルネットワーク事前学習フレームワークであり、複数の脳疾患予測タスクで最先端の性能を達成しており、主な指標においてベースライン比で相対的に 4.27% の向上を示している。

ABSTRACT

The human brain is the central hub of the neurobiological system, controlling behavior and cognition in complex ways. Recent advances in neuroscience and neuroimaging analysis have shown a growing interest in the interactions between brain regions of interest (ROIs) and their impact on neural development and disorder diagnosis. As a powerful deep model for analyzing graph-structured data, Graph Neural Networks (GNNs) have been applied for brain network analysis. However, training deep models requires large amounts of labeled data, which is often scarce in brain network datasets due to the complexities of data acquisition and sharing restrictions. To make the most out of available training data, we propose PTGB, a GNN pre-training framework that captures intrinsic brain network structures, regardless of clinical outcomes, and is easily adaptable to various downstream tasks. PTGB comprises two key components: (1) an unsupervised pre-training technique designed specifically for brain networks, which enables learning from large-scale datasets without task-specific labels; (2) a data-driven parcellation atlas mapping pipeline that facilitates knowledge transfer across datasets with different ROI systems. Extensive evaluations using various GNN models have demonstrated the robust and superior performance of PTGB compared to baseline methods.

研究の動機と目的

• 脳ネットワーク解析におけるラベル付きデータの限界がディープラーニングの性能を制限するという課題に対処すること。
• 異なる神経画像データセット間で領域（ROI）パラセレーションシステムの不一致が知識の転送を妨げるという課題に対処すること。
• タスク固有のラベルなしに、ラベルなし脳ネットワークから構造的インダクティブバイアスを学ぶ事前学習フレームワークを開発すること。
• 異なる ROI アトラス間の共通で解釈可能なマッピングを学習することで、効果的なクロスデータセット適合を可能にすること。
• グラフレベルとノードレベルの表現を統合最適化することで、下流の疾患予測性能を向上させること。

提案手法

• 局所的近傍とグローバルなグラフレベル表現を同時に最適化する二段階のノード対照的サンプリング戦略を提案する。
• 複数の脳ネットワークグラフ間で相互情報の最大化に基づく、マルチデータセットで自己教師付き事前学習を実現する目的関数を導入する。
• スパarsity、局所性、コミュニティの三つの特化した正則化項を用いたデータ駆動型アトラスマッピングパイプラインを採用し、異なるパラセレーションテンプレート間の ROI を整列する。
• 分散に基づくソーティングを用いて、クロスアトラス整列のための最も情報量の多い仮想 ROI を特定・優先順位付けする。
• MAML に類似したメタラーニングの原則を適用し、事前学習モデルを下流タスクに迅速に適合可能にする。
• グローバルなグラフ構造を局所的ノード表現に要約するグラフレベルの対照学習コンponentを統合する。

Figure 1: Overview of the proposed framework PTGB . The initial features of the source datasets are projected to a fixed dimension through atlas transformation followed by variance-based feature alignment, which facilitates self-supervised GNN pre-training on multiple datasets via the novel two-leve

実験結果

リサーチクエスチョン

• RQ1 大規模なラベルなし脳ネットワークにおける自己教師付き事前学習は、下流の疾患予測性能を向上させることができるか？
• RQ2 二段階の対照学習は、脳ネットワークにおける局所的およびグローバルな構造的パターンをどれほど効果的に捉えられるか？
• RQ3 手動アノテーションに依存せずに、データ駆動型アトラスマッピングパイプラインがどの程度異なるパラセレーションシステム間の ROI を整列できるか？
• RQ4 PTGB フレームワークにおける各コンponent、特に正則化項と対照的目的関数が全体の性能に果たす寄与度はいかほどか？
• RQ5 ROI の定義や臨床的アウトカムが異なる多様なデータセット間で、PTGB はどの程度一般化可能か？

主な発見

• PTGB の完全なフレームワークは、最も強力なベースライン比で、精度と AUC の両方で相対的に 4.27% の向上を達成しており、複数のグラフ間で共有される部分構造の知識を共同で学ぶ価値を示している。
• スパarsity 正則化項を除去すると性能低下が最も顕著に現れ、その重要性と頑健性・過学習防止への貢献が裏付けられた。
• 局所性およびコミュニティ正則化項の導入により性能が顕著に向上し、空間的およびモジュラーな脳構造の認識の重要性が検証された。
• 二段階の対照学習（ノードレベルおよびグラフレベル）は、単一レベルの代替手法よりも収束が早く、下流タスクへの適合性能が優れている。
• 分散に基づく ROI 整列手法は、PPMI、BP、HIV データセット間で重複する脳領域を効果的に同定しており、可視化により領域の対応関係が確認された。
• フレームワークは PPMI、BP、HIV の三つの異なるデータセットで強力な性能を維持しており、多様な臨床的および画像的文脈にわたる頑健性と一般化能力を示している。

Figure 2: Visual demonstration of the sample types where $X_{i,p}$ is the anchor and $\mathbf{S_{1}}$ / $\mathbf{S_{4}}$ are sampled as 1-hop neighbors.