[論文レビュー] Variational Autoencoders for Feature Detection of Magnetic Resonance Imaging Data

Devon Hjelm, Sergey Plis+1 more|arXiv (Cornell University)|Mar 21, 2016

Blind Source Separation Techniques参考文献 22被引用数 7

ひとこと要約

本稿では、変分推論を用いてヘルムホルツマシンを学習することで、MRIデータから最大限に独立した特徴を抽出する非線形的で深層的な生成モデルとしての変分オートエンコーダー（VAEs）を提案する。この手法は、従来のICAよりも複雑な非線形構造を捉えることができ、潜在変数のみを用いて67%の統計的分類精度を達成し、診断的関連性と構造的一致性が顕著であることを示している。

ABSTRACT

Independent component analysis (ICA), as an approach to the blind source-separation (BSS) problem, has become the de-facto standard in many medical imaging settings. Despite successes and a large ongoing research effort, the limitation of ICA to square linear transformations have not been overcome, so that general INFOMAX is still far from being realized. As an alternative, we present feature analysis in medical imaging as a problem solved by Helmholtz machines, which include dimensionality reduction and reconstruction of the raw data under the same objective, and which recently have overcome major difficulties in inference and learning with deep and nonlinear configurations. We demonstrate one approach to training Helmholtz machines, variational auto-encoders (VAE), as a viable approach toward feature extraction with magnetic resonance imaging (MRI) data.

研究の動機と目的

• 線形ICAの限界、特に非線形関係や多モodalデータのモデル化ができない点を克服すること。
• ヘルムホルツマシン、特に変分オートエンコーダーを、神経画像診断における教師なし特徴発見のためのスケーラブルで柔軟な代替手法として探求すること。
• 訓練時にラベルデータに依存せずに、生MRIデータから意味的で一般化可能かつ診断的に関連性のある特徴をVAEsが学習できるかどうかを評価すること。
• VAEsの潜在表現が、統合的分類タスク（例：統合的障害の診断）に十分な情報を保持していることを示すこと。
• VAEsが、ICA や RBM を用いた手法よりもノイズが少なく、既知の脳領域と高い一致を示す一貫性があり解釈可能な特徴を生成すること。

提案手法

• 潜在変数の真の事後分布を近似するために、変分推論を用いた深層的非線形生成モデルを訓練した。
• 近似事後分布 $ q(oldsymbol{h}|oldsymbol{x};oldsymbol{ heta}) $ をパラメータ化するため、tanh関数を用いた2層の認識ネットワークを採用し、$ p(oldsymbol{x}|oldsymbol{h};oldsymbol{ heta}) $ をモデル化するための2層の生成ネットワークをソフトプラス関数を用いて構築した。
• スパarsityと独立性を促進するために、64ユニットのロジスティック事前分布 $ p(oldsymbol{h};oldsymbol{ heta}) $ を使用した。
• 1000エポック、バッチサイズ10で、RMSpropを用いた確率的最適化により、変分下界（ELBO）を最大化した。
• スパム成分が統合的障害と有意に関連しているかを特定するために、しきい値処理と統計的検定（一標本t検定、$ p < 0.001 $）を実施した。
• 診断分類性能を評価するために、潜在変数の事後分布の平均 $ oldsymbol{ u}_h(oldsymbol{x}_n) $ をロジスティック回帰の入力とした。

実験結果

リサーチクエスチョン

• RQ1 変分オートエンコーダーは、訓練時にラベルデータを必要とせずに、生MRIデータから非線形的かつ独立した特徴を効果的に学習できるか？
• RQ2 VAEsが抽出した潜在特徴は、特に統合的障害に関連して、意味的で生物学的・診断的関連性を持つものか？
• RQ3 VAEsが抽出した特徴の質と解釈可能性は、MRIデータにおいて線形ICA や RBM と比較してどう異なるか？
• RQ4 学習された潜在表現が、統合的障害のような神経疾患の正確な分類に十分な情報を保持している程度はどの程度か？
• RQ5 潜在成分同士にどのような構造的関係が存在し、それらが脳の既知の機能的または解剖的グループ化を反映しているか？

主な発見

• VAEモデルは、MRIデータから64個の潜在特徴を効果的に抽出し、多様で解釈可能であり、主に既知の脳領域と一致した。
• 統合的障害と有意に関連する潜在成分（$ p < 0.001 $）は、高い空間的一致性を示し、ロジスティック回帰係数の統計的検定により特定可能であった。
• 潜在変数の事後分布の平均のみを用いても、統合的障害患者と健常対照群を区別する分類精度が67%に達し、ランダムより有意に高い水準であった。
• 事後分布平均の相関行列は、健常対照群と患者群が明確にクラスタを形成する強いグループ内構造を示し、意味的で有意義なグループ分離を示していた。
• VAEsが抽出した特徴は、PCA や RBM を用いた手法と比較して、より高い特徴の重複率を示しており、より一貫性があり安定した特徴学習が可能であることを示唆した。
• 相関行列に対するコミュニティ検出法により、潜在特徴間に構造的で生物学的に妥当な関係が存在する明確なグループ化が同定された。