[论文解读] Unsupervised Data Imputation via Variational Inference of Deep Subspaces

Adrian V. Dalca, John V. Guttag+1 more|arXiv (Cornell University)|Mar 8, 2019

AI in cancer detection参考文献 50被引用 5

一句话总结

本文提出了一种基于变分推断的无监督深度生成模型，用于在高维图像中填补缺失像素，该模型基于深度非线性子空间。通过引入感知稀疏性的神经网络模块并利用数据集整体结构，该方法在极端稀疏条件下（如MNIST数据集和临床真实MRI数据中83%的缺失数据）优于线性模型和深度图像先验模型。

ABSTRACT

A wide range of systems exhibit high dimensional incomplete data. Accurate estimation of the missing data is often desired, and is crucial for many downstream analyses. Many state-of-the-art recovery methods involve supervised learning using datasets containing full observations. In contrast, we focus on unsupervised estimation of missing image data, where no full observations are available - a common situation in practice. Unsupervised imputation methods for images often employ a simple linear subspace to capture correlations between data dimensions, omitting more complex relationships. In this work, we introduce a general probabilistic model that describes sparse high dimensional imaging data as being generated by a deep non-linear embedding. We derive a learning algorithm using a variational approximation based on convolutional neural networks and discuss its relationship to linear imputation models, the variational auto encoder, and deep image priors. We introduce sparsity-aware network building blocks that explicitly model observed and missing data. We analyze proposed sparsity-aware network building blocks, evaluate our method on public domain imaging datasets, and conclude by showing that our method enables imputation in an important real-world problem involving medical images. The code is freely available as part of the \verb|neuron| library at http://github.com/adalca/neuron.

研究动机与目标

• 解决在无完整观测数据可用时的无监督图像缺失数据填补问题，这是医学成像中的常见挑战。
• 建模高维稀疏成像数据中超越主成分分析等线性子空间模型局限的复杂非线性相关性。
• 开发一种基于概率框架的原理性方法，将变分推断与深度神经网络结合，用于缺失数据恢复。
• 通过学习跨稀疏图像的全局共享潜在表示，实现条件均值填补和多重填补。
• 在极端稀疏性（如83%缺失像素）的真实临床MRI数据上展示该方法的有效性。

提出的方法

• 提出一种概率模型，其中稀疏高维图像数据通过类似变分自编码器的框架，从深度非线性潜在子空间生成。
• 在存在缺失数据的情况下，使用卷积神经网络推导出用于近似潜在变量后验分布的变分推断算法。
• 引入感知稀疏性的全连接层和卷积层，显式在前向和反向传播中建模观测数据与缺失数据。
• 使用变分下界（ELBO）进行优化，并采用重参数化技巧以实现在不完整数据上的端到端训练。
• 采用跨所有图像共享的全局潜在表示，以捕捉图像间的相关性，从而在极端稀疏条件下仍能实现填补。
• 将模型应用于合成数据集（MNIST、Fashion-MNIST）和真实医学MRI数据集，比较包含与不包含感知稀疏性组件的模型变体。

实验结果

研究问题

• RQ1 在极端稀疏条件下，深度非线性子空间模型是否能优于线性子空间模型进行无监督图像填补？
• RQ2 与标准架构相比，显式引入感知稀疏性的网络层在多大程度上提升了填补性能？
• RQ3 跨稀疏图像共享的全局潜在表示是否能优于每张图像独立处理的方法（如深度图像先验）？
• RQ4 当无完整观测数据时，该方法与监督填补基线相比表现如何？
• RQ5 在83%缺失像素的临床MRI扫描中，该模型在多大程度上能重建精细解剖结构？

主要发现

• 引入感知稀疏性的卷积层和全连接层的模型在所有MNIST和Fashion-MNIST稀疏度水平下均实现了最佳重建性能，优于线性模型和标准VAE变体。
• 在83%缺失切片的脑部MRI数据集中，该方法生成了具有解剖学合理性的重建结果，而线性子空间模型和插值方法则引入了显著伪影。
• 该模型每次MRI切片的推理时间仅为18.6 ± 13.7毫秒，远快于深度图像先验模型（每张图像需36.5 ± 0.2秒），后者依赖迭代优化。
• 感知稀疏性网络组件至关重要：即使采用非线性架构，缺乏这些组件的模型在极端稀疏条件下仍无法泛化。
• 该方法通过利用图像间的相关性，展现出优越的泛化能力，即使单个图像中观测像素极少，也能实现准确填补。
• 与深度图像先验相比，该方法在大规模数据上实现了更优的重建质量；DIP在高稀疏度下因每张图像数据不足而失效。