[论文解读] Variational Autoencoders for Feature Detection of Magnetic Resonance Imaging Data

Devon Hjelm, Sergey Plis+1 more|arXiv (Cornell University)|Mar 21, 2016

Blind Source Separation Techniques参考文献 22被引用 7

一句话总结

本文提出使用变分自编码器（VAEs）作为非线性、深度生成模型，通过变分推断训练赫尔姆霍兹机，从MRI数据中提取最大独立特征。该方法优于传统ICA，能够捕捉复杂非线性结构，并仅使用潜在特征即实现67%的精神分裂症诊断准确率，展现出强大的诊断相关性与结构一致性。

ABSTRACT

Independent component analysis (ICA), as an approach to the blind source-separation (BSS) problem, has become the de-facto standard in many medical imaging settings. Despite successes and a large ongoing research effort, the limitation of ICA to square linear transformations have not been overcome, so that general INFOMAX is still far from being realized. As an alternative, we present feature analysis in medical imaging as a problem solved by Helmholtz machines, which include dimensionality reduction and reconstruction of the raw data under the same objective, and which recently have overcome major difficulties in inference and learning with deep and nonlinear configurations. We demonstrate one approach to training Helmholtz machines, variational auto-encoders (VAE), as a viable approach toward feature extraction with magnetic resonance imaging (MRI) data.

研究动机与目标

• 为克服线性ICA在MRI特征提取中的局限性，特别是其无法建模非线性关系和多模态数据的问题。
• 探索赫尔姆霍兹机，特别是变分自编码器，作为神经影像学中无监督特征发现的可扩展且灵活的替代方法。
• 评估VAEs是否能从原始MRI数据中学习到有意义、可泛化且具有诊断相关性的特征，而无需在训练期间依赖标注数据。
• 证明VAE的潜在表示保留了足够信息，可用于下游分类任务，如精神分裂症诊断。
• 表明VAE生成的特征具有较低噪声、更高与已知脑区的重叠度，且结构上更一致、可解释。

提出的方法

• 使用变分推断训练深层非线性生成模型，以近似潜在变量的后验分布。
• 采用包含tanh单元的两层识别网络来参数化近似后验 $ q(oldsymbol{h}|oldsymbol{x};oldsymbol{ heta}) $，并使用包含softplus单元的两层生成网络来建模 $ p(oldsymbol{x}|oldsymbol{h};oldsymbol{ heta}) $。
• 使用具有64个单元的逻辑斯蒂先验 $ p(oldsymbol{h};oldsymbol{ heta}) $，以促进潜在空间中的稀疏性和独立性。
• 通过RMSprop进行随机优化，批量大小为10，训练1000个周期，以最大化变分下界（ELBO）。
• 应用阈值化和统计检验（单样本t检验，$ p < 0.001 $）识别与精神分裂症显著相关的潜在成分。
• 将后验分布的均值 $ oldsymbol{ u}_h(oldsymbol{x}_n) $ 作为逻辑回归的输入，以评估诊断分类性能。

实验结果

研究问题

• RQ1 变分自编码器能否在无需训练期间使用标注数据的情况下，有效从原始MRI数据中学习非线性、独立特征？
• RQ2 VAE提取的潜在特征是否具有有意义的生物学和诊断相关性，特别是与精神分裂症相关？
• RQ3 与线性ICA或RBM方法相比，VAE提取的特征在MRI数据中的质量与可解释性如何？
• RQ4 所学习的潜在表示在在多大程度上保留了足够信息，以实现对精神分裂症等神经疾病准确分类？
• RQ5 潜在成分之间存在何种结构关系？这些关系是否反映大脑中已知的功能或解剖学分组？

主要发现

• VAE模型成功从MRI数据中提取出64个潜在特征，这些特征具有多样性、可解释性，且在很大程度上对应于已知的感兴趣脑区。
• 与精神分裂症显著相关的潜在成分（$ p < 0.001 $）表现出高度的空间一致性，并可通过逻辑回归系数的统计检验识别。
• 该模型仅使用潜在变量后验分布的均值，即在区分精神分裂症患者与健康对照组的分类任务中达到67%的准确率，显著高于随机水平。
• 后验均值的相关性矩阵揭示了强烈的组间结构，健康对照组与患者组形成明显聚类，表明具有意义的组间分离。
• 与PCA或基于RBM的方法相比，VAE的潜在成分表现出更高的特征重叠度，表明其特征学习更具一致性和稳定性。
• 在相关性矩阵上进行社区检测揭示了成分的明显分组，表明潜在特征之间存在结构化、生物学上合理的关联。