[論文レビュー] Longformer: Longitudinal Transformer for Alzheimer's Disease Classification with Structural MRIs

Qiuhui Chen, Yi Hong|arXiv (Cornell University)|Feb 2, 2023

Brain Tumor Detection and ClassificationNeuroscience被引用数 3

ひとこと要約

本論文では、縦断的構造的MRIと事前計算済みの光流を活用してアルツハイマー病（AD）分類を向上させるハイブリッド3D CNN-TransformerモデルLongFormerを提案する。画像-流れペアからの空間的および時間的特徴を統合することで、LongFormerはSOTA性能を達成し、ADNIデータセットで93％を超える正確性を示し、微細で進行的な脳萎縮パターンに対する優れた一般化能力を示している。

ABSTRACT

Structural magnetic resonance imaging (sMRI) is widely used for brain neurological disease diagnosis; while longitudinal MRIs are often collected to monitor and capture disease progression, as clinically used in diagnosing Alzheimer's disease (AD). However, most current methods neglect AD's progressive nature and only take a single sMRI for recognizing AD. In this paper, we consider the problem of leveraging the longitudinal MRIs of a subject for AD identification. To capture longitudinal changes in sMRIs, we propose a novel model Longformer, a spatiotemporal transformer network that performs attention mechanisms spatially on sMRIs at each time point and integrates brain region features over time to obtain longitudinal embeddings for classification. Our Longformer achieves state-of-the-art performance on two binary classification tasks of separating different stages of AD using the ADNI dataset. Our source code is available at https://github.com/Qybc/LongFormer.

研究の動機と目的

• アルツハイマー病（AD）分類に用いられる従来の手法が、脳萎縮の進行的性質を無視する単一時刻点（横断的）MRIスキャンに依存するという限界を是正すること。
• 欠損データ、限定的なデータセットサイズ、微細な解剖的変化といった課題を克服しながら、縦断的3D MRI系列から効果的に学習できる深層学習フレームワークの開発。
• ハイブリッドCNN-Transformerアーキテクチャを用いて、3D MRIからの空間的特徴と事前計算済みの光流で捉えた時間的変化を統合すること。
• 一部の時間点が欠損している場合でも、利用可能なすべての画像-流れペアを活用することで分類性能を向上させること。
• 複数の公開データセット（ADNI、OASIS、AIBL）における縦断的T1強調MRIデータを用いた、二値分類（AD vs. NC）の新しいSOTAベンチマークの確立。

提案手法

• 3D CNNバックボーン（DenseNet121）を用いて、3D構造的MRIボリュームからの空間的埋め込みを抽出し、後続処理のための入力次元を低次元化する。
• 現在のスキャンと過去のスキャンの間の縦断的変化は、事前計算済みの光流によって捉えられ、正規化され、補助的入力モodalとして使用される。
• 可学習クエリを用いた変形可能クロスアテンションを持つクエリベースのトランスフォーマーを採用し、MRIとその対応する流れの両方の空間的・時間的特徴に動的に注目する。
• 可学習クエリを用いてグローバルな文脈情報を集約し、分類のための判別性のある時空間的パターンにモデルが集中できるようにする。
• モデルは画像-流れペア上でエンドツーエンドに訓練され、一部の時間点が欠損している場合でも縦断的データを完全に活用できる。
• 事前計算済みの流れを用いることで、ネットワークが直接微小な時間的変化を学習する負担が軽減され、トレーニングの安定性と性能が向上する。

実験結果

リサーチクエスチョン

• RQ1 ビジョントランスフォーマーに基づくモデルは、単一時刻点MRI分析を上回る性能を達成するために、3D縦断的MRIから効果的に学習できるか？
• RQ2 画像系列からの直接学習と比較して、縦断的変化の代理として事前計算済みの光流を組み込むことで、モデル性能が向上するか？
• RQ3 3D CNNバックボーンの選択が、AD分類におけるハイブリッドCNN-Transformerアーキテクチャの性能に与える影響は何か？
• RQ4 分類精度とモデル容量のバランスを考慮した場合、トランスフォーマーのデコーダーにおける最適な可学習クエリ数は何か？
• RQ5 提案手法は、データ完全性や被験者人口統計にばらつきのある多様な公開データセット（ADNI、OASIS、AIBL）に一般化可能か？

主な発見

• LongFormerは、3つのベンチマークデータセットすべてでSOTA性能を達成し、ADNIデータセットで93％を超える正確性を示し、8つのベースライン手法を顕著に上回った。
• 事前計算済みの光流を用いることで、画像系列からの直接学習と比較して性能が向上し、空間的および時間的特徴学習を分離することの有効性が裏付けられた。
• 検証されたCNNバックボーンの中で、DenseNet121が最良の画像埋め込みを提供した。また、トランスフォーマーモジュールの追加により、すべてのバックボーンで正確性が向上した。
• トランスフォーマーのデコーダーにおける最適な可学習クエリ数は125であり、すべてのデータセットで最高の分類正確性を達成した。
• アブレーションスタディにより、特に単一時刻点スキャンが曖昧な場合に、縦断的情報、特に光流と組み合わせた場合に、ADとNCの被験者を区別する上で不可欠であることが確認された。
• 欠損データを効果的に処理するために、利用可能なすべての画像-流れペアを活用することで、補完やデータフィルタリングを必要とせずに、有効なトレーニングサンプル数を増加させた。