[論文レビュー] Meta Transfer of Self-Supervised Knowledge: Foundation Model in Action for Post-Traumatic Epilepsy Prediction

Wenhui Cui, Haleh Akrami+3 more|PubMed|Dec 21, 2023

Neonatal and fetal brain pathology参考文献 27被引用数 4

ひとこと要約

本論文では、健康なfMRIデータにおけるメタラーニングと自己教師あり事前学習を組み合わせることで、限られた、多様性の高い臨床データへの一般化を向上させる、Post-Traumatic Epilepsy (PTE) 予測のための基礎モデルである MeTSK（Meta Transfer of Self-Supervised Knowledge）を提案する。正常な特徴から臨床的特徴への知識の転送を二段階最適化によって実現することで、未観測のTBIデータセットにおいて最先端のゼロショット性能を達成し、AUCは 0.6981 ± 0.0409 を達成した。

ABSTRACT

Despite the impressive advancements achieved using deep-learning for functional brain activity analysis, the heterogeneity of functional patterns and scarcity of imaging data still pose challenges in tasks such as prediction of future onset of Post-Traumatic Epilepsy (PTE) from data acquired shortly after traumatic brain injury (TBI). Foundation models pre-trained on separate large-scale datasets can improve the performance from scarce and heterogeneous datasets. For functional Magnetic Resonance Imaging (fMRI), while data may be abundantly available from healthy controls, clinical data is often scarce, limiting the ability of foundation models to identify clinically-relevant features. We overcome this limitation by introducing a novel training strategy for our foundation model by integrating meta-learning with self-supervised learning to improve the generalization from normal to clinical features. In this way we enable generalization to other downstream clinical tasks, in our case prediction of PTE. To achieve this, we perform self-supervised training on the control dataset to focus on inherent features that are not limited to a particular supervised task while applying meta-learning, which strongly improves the model's generalizability using bi-level optimization. Through experiments on neurological disorder classification tasks, we demonstrate that the proposed strategy significantly improves task performance on small-scale clinical datasets. To explore the generalizability of the foundation model in downstream applications, we then apply the model to an unseen TBI dataset for prediction of PTE using zero-shot learning. Results further demonstrated the enhanced generalizability of our foundation model.

研究の動機と目的

• 脳震とう後すぐに収集された限られた、かつ極めて多様なfMRIデータから、外傷性脳損傷（TBI）後の外傷性てんかん（PTE）を予測する課題に対処すること。
• 臨床データが健康対照群に比べて極めて少ない状況で、標準的な基礎モデルが不均衡なデータで学習する際に示す一般化の悪さを克服すること。
• 上流の事前学習段階でメタラーニングを用いて、正常なfMRIパターンから臨床的関連特徴への一般化を向上させること。
• 微調整なしに、特にPTE予測のような下流の臨床的タスクに対して、効果的なゼロショットおよびフェイシュット適応を可能にすること。

提案手法

• 大規模な健康対照群fMRIデータセットを用いて、対照的自己教師あり学習により基礎モデルを事前学習し、タスクに依存しない汎用的特徴を学習する。
• MAMLにインspiredされた二段階最適化方式を用いて、メタラーニングを統合し、対照特徴から臨床的特徴への一般化の仕組みを学習する。
• 1回の更新ステップ後に小さな臨床データセットにおける内側ループ損失を最小化するメタ目的を用いて、臨床データに素早く適応できるようにモデルを訓練する。
• 得られたMeTSKモデルを、微調整なしに未観測のTBI/PTEデータセットに対してゼロショット推論に使用する。特徴を直接抽出することで実現する。
• PTE分類の下流性能を評価するために、線形プローブとゼロショット特徴評価を適用する。
• ソース（対照群）とターゲット（臨床群）ドメイン間の一般化を定量化するため、ドメイン類似度分析を実施する。また、学習／テスト分割間のドメイン内でも分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングは、限られたデータセットにおける健康fMRIパターンから臨床的関連特徴への自己教師あり基礎モデルの一般化を向上させることができるか？
• RQ2 未観測のTBIデータセットにおいて、MeTSKは標準的な微調整とベースライン自己教師ありモデルと比べて、ゼロショットPTE予測でどのように性能を発揮するか？
• RQ3 メタラーニングと自己教師あり学習の統合により、多様なfMRIデータにおけるドメインシフトとクラス内分散がどの程度低減されるか？
• RQ4 MeTSKで学習された特徴は、PTE関連の脳ネットワークの変化について、解釈可能なインサイトを提供できるか？

主な発見

• MeTSKは、未観測のTBIデータセットを用いたゼロショットPTE予測で、AUC 0.6981 ± 0.0409 を達成し、すべてのベースラインを上回った。
• モデルはドメイン間一般化が向上し、HCP対照群データセットからの自己教師あり特徴が、ベースラインモデルと比較して臨床的特徴とより高い類似度を示した。
• メタラーニングは、ADHDおよびABIDEデータセットのトレーニング・テストセット間でクラス内ドメイン類似度を顕著に向上させ、データの多様性の影響を軽減した。
• MeTSK特徴に対する線形プローブは、微調整よりも優れた性能を示し、分布シフト下でもゼロショット特徴がより頑健であることを示唆した。
• ドメイン類似度分析により、MeTSK特徴がドメイン間およびクラス内でもより良い一般化を示すことが確認され、その下流性能の向上が説明された。
• 微調整なしに一般化できる能力は、限られたラベル付きデータを持つ希少な神経疾患における、データ効率的な展開の可能性を示している。