[论文解读] Denoising Score-Matching for Uncertainty Quantification in Inverse Problems

Zaccharie Ramzi, Benjamin Rémy+3 more|arXiv (Cornell University)|Nov 16, 2020

Medical Imaging Techniques and Applications参考文献 29被引用 4

一句话总结

本文提出了一种用于磁共振成像（MRI）重建的贝叶斯框架，通过去噪得分匹配从数据中学习先验分布，利用退火哈密顿蒙特卡洛采样实现不确定性量化。该方法在实现高质量重建的同时，通过后验采样显式量化不确定性，揭示了数据所支持的区域以及确定性网络未能捕捉到的不稳定特征。

ABSTRACT

Deep neural networks have proven extremely efficient at solving a wide rangeof inverse problems, but most often the uncertainty on the solution they provideis hard to quantify. In this work, we propose a generic Bayesian framework forsolving inverse problems, in which we limit the use of deep neural networks tolearning a prior distribution on the signals to recover. We adopt recent denoisingscore matching techniques to learn this prior from data, and subsequently use it aspart of an annealed Hamiltonian Monte-Carlo scheme to sample the full posteriorof image inverse problems. We apply this framework to Magnetic ResonanceImage (MRI) reconstruction and illustrate how this approach not only yields highquality reconstructions but can also be used to assess the uncertainty on particularfeatures of a reconstructed image.

研究动机与目标

• 为解决基于深度学习的反问题中缺乏不确定性量化的问题，特别是在MRI重建中的问题。
• 开发一种可扩展的、数据驱动的贝叶斯框架，利用基于得分的生成建模进行先验学习。
• 通过基于得分的网络在去噪得分匹配训练下，实现在高维图像空间中的完整后验采样。
• 证明可通过后验样本量化并可视化不确定性，揭示数据约束不足的区域。

提出的方法

• 通过去噪得分匹配训练一个残差U-Net架构，以估计数据分布的得分，从而在MRI图像上学习先验分布。
• 通过谱范数约束对得分网络进行正则化，以提高训练稳定性和得分质量。
• 使用退火哈密顿蒙特卡洛（HMC）从后验分布p(x|y)中采样，将学习到的先验与k空间测量的似然性相结合。
• 对最后的HMC样本应用最终去噪步骤，采用期望去噪样本（EDS）方案以提升重建质量。
• 该框架应用于单线圈MRI中的回顾性欠采样，使用fastMRI数据集，加速度因子为4。
• 通过仅依赖得分梯度而非显式密度估计，避免了密度估计的复杂性，实现在高维图像空间中的可扩展推理。

实验结果

研究问题

• RQ1 去噪得分匹配能否有效用于学习贝叶斯MRI重建的先验？
• RQ2 通过退火HMC进行后验采样，能否有效量化重建MRI特征中的不确定性？
• RQ3 该基于得分的方法是否能在保持重建质量的同时，优于确定性深度学习方法的不确定性感知能力？
• RQ4 谱归一化对得分网络训练和后验采样稳定性有何影响？
• RQ5 该框架如何处理具有不同噪声水平或欠采样模式的数据？

主要发现

• 在后验样本上的平均PSNR达到30.04 dB，显著优于零填充重建（25.55 dB），并接近最先进方法UPDNet（32.15 dB）。
• 单个后验样本的平均PSNR为27.63 dB，表明采样过程在保持图像质量的同时实现了不确定性评估。
• 后验样本揭示了感兴趣区域红色区域的高变异性，表明数据约束较弱——这一特征在确定性网络中无法被检测到。
• 该框架成功扩展至高维MRI数据（320×320×2），证明了基于得分的模型在可扩展性方面优于GAN或VAE。
• 尽管HMC收敛存在挑战，但最终的EDS去噪步骤显著提升了样本质量，表明其在实际部署中具有可行性。
• 该方法实现了可视化不确定性量化：后验方差较高的区域对应于测量数据支持不足的特征，有助于临床解读。