[論文レビュー] Unsupervised Brain Anomaly Detection and Segmentation with Transformers

Walter Hugo Lopez Pinaya, Petru-Daniel Tudosiu+5 more|arXiv (Cornell University)|Feb 23, 2021

Domain Adaptation and Few-Shot Learning参考文献 26被引用数 31

ひとこと要約

この論文は、脳MRIの異常検知とセグメンテーションのための教師なし手法を提案する。VQ-VAEで離散潜在コードを取得し、自己回帰型トランスフォーマー（Performer）のアンサンブルで健常脳分布をモデル化することで、異常のインペイントと残差ベースのセグメンテーションを実現し、合成データセットと実データセットの両方で最新の結果を達成する。

ABSTRACT

Pathological brain appearances may be so heterogeneous as to be intelligible only as anomalies, defined by their deviation from normality rather than any specific pathological characteristic. Amongst the hardest tasks in medical imaging, detecting such anomalies requires models of the normal brain that combine compactness with the expressivity of the complex, long-range interactions that characterise its structural organisation. These are requirements transformers have arguably greater potential to satisfy than other current candidate architectures, but their application has been inhibited by their demands on data and computational resource. Here we combine the latent representation of vector quantised variational autoencoders with an ensemble of autoregressive transformers to enable unsupervised anomaly detection and segmentation defined by deviation from healthy brain imaging data, achievable at low computational cost, within relative modest data regimes. We compare our method to current state-of-the-art approaches across a series of experiments involving synthetic and real pathological lesions. On real lesions, we train our models on 15,000 radiologically normal participants from UK Biobank, and evaluate performance on four different brain MR datasets with small vessel disease, demyelinating lesions, and tumours. We demonstrate superior anomaly detection performance both image-wise and pixel-wise, achievable without post-processing. These results draw attention to the potential of transformers in this most challenging of imaging tasks.

研究の動機と目的

• 健全な脳分布を学習することで、脳の異常を検出・セグメンテーションする完全に教師なしのフレームワークを開発する。
• VQ-VAEによる離散潜在空間を活用し、脳画像のトランスフォーマー動作を効率化する。
• 複数の潜在空間順序を用いたトランスフォーマーのアンサンブルで異常のセグメンテーションと検出を向上させる。

提案手法

• VQ-VAEを用いて脳MRIを離散潜在空間に圧縮し、2Dからシーケンスへのコンパクトな表現としてz_qを取得する。
• 潜在コード上で自己回帰型トランスフォーマー（Performer）アンサンブルを訓練し、p(s_i|s_<i)を学習して健常データの分布をモデル化する。
• 低尤度の潜在コードを閾値で検出し、トランスフォーマーでサンプルされた値でそれらをインペイントして修復画像を生成する。
• 元画像と修復画像のピクセル単位残差|x - x_hat'|を計算し、異常セグメンテーションを得るために閾値を設定する。
• 潜在空間の異常場所から得られるリサンプリングマスクで残差をマスキングし、画像解像度へアップスケールして空間情報を取り入れる。
• 8種類の潜在空間順序（ラスター、反転、回転など）を用いたトランスフォーマーのアンサンブルでロバスト性を高め、平均を用いて残差を集約する。

実験結果

リサーチクエスチョン

• RQ1 VQ-VAEで学習された離散潜在空間に適用された教師なしトランスフォーマーは、ラベル付き病理データなしで脳の異常を正確に検出・セグメンテーションできるか。
• RQ2 多様な潜在空間順序を持つ自己回帰トランスフォーマーのアンサンブルは、単一順序よりも異常検知とセグメンテーションを改善するか。
• RQ3 潜在空間のリサンプリングマスクを組み込むことは、高周波領域における異常残差の特異性にどう影響するか。
• RQ4 実データ（WMH、MS病変、BRATS）で、最新の自動エンコーダーと比較して本手法はどのように性能を発揮するか。

主な発見

Experiment / Dataset	Metric	Value (examples)	Notes
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.895	8 raster orderings ensemble (main result)
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.768	VQ-VAE + Transformer + Masked Residuals + Ordering (アブレーション)
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.675	VQ-VAE + Transformer (no mask)
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.457	VQ-VAEのみ
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.533	VAE Dense
合成セグメンテーション	Best achievable Dice (ceil Dice)	0.213	AE Dense

• 合成データでは、潜在空間マスキングと複数順序を取り入れた全手法が最も高いセグメンテーションDice（上限Dice）0.895を達成し、ラスター順序のアンサンブルで最良、順序アンサンブルを用いない場合は0.768。
• 合成データにおける画像単位の異常検知は、OOD検知が優れており、一般用途のVQ-VAEを用いた場合でAUROCが0.921、0.932（一般用途VQ-VAE）および遠いOODでAUROCが1.000。
• 実データ（UK Biobankや他データセット）では、提案手法が異常セグメンテーションで最先端の自動エンコーダーを上回った（例：UKB: 0.232、MSLUB: 0.378、BRATS: 0.759、WMH: 0.429）。
• 8種類の順序を用いたアンサンブルは、単一順序ベースラインより顕著な改善を示し、ラスターアンサンブルが合成データで最も良いセグメンテーションDiceを記録。
• リサンプリングマスクで残差をマスキングすると高周波領域の誤ラベリングが減り、セグメンテーションの信頼性が向上する。