[论文解读] Deep Bayesian Inversion

Jonas Adler, Ozan Öktem|arXiv (Cornell University)|Nov 14, 2018

Medical Imaging Techniques and Applications被引用 38

一句话总结

本文提出两种基于深度学习的贝叶斯反演方法，用于大规模3D成像：一种基于最小判别器的Wasserstein GAN，用于后验抽样；另一种基于新型损失函数的直接神经网络方法，用于后验均值估计。两种方法均实现了超低剂量3D螺旋CT中计算高效的不确定性量化，在检测肝脏暗点等病理特征方面表现出色。

ABSTRACT

Characterizing statistical properties of solutions of inverse problems is essential for decision making. Bayesian inversion offers a tractable framework for this purpose, but current approaches are computationally unfeasible for most realistic imaging applications in the clinic. We introduce two novel deep learning based methods for solving large-scale inverse problems using Bayesian inversion: a sampling based method using a WGAN with a novel mini-discriminator and a direct approach that trains a neural network using a novel loss function. The performance of both methods is demonstrated on image reconstruction in ultra low dose 3D helical CT. We compute the posterior mean and standard deviation of the 3D images followed by a hypothesis test to assess whether a "dark spot" in the liver of a cancer stricken patient is present. Both methods are computationally efficient and our evaluation shows very promising performance that clearly supports the claim that Bayesian inversion is usable for 3D imaging in time critical applications.

研究动机与目标

• 解决大规模3D成像应用中贝叶斯反演的计算不可行性问题。
• 开发高效的基于深度学习的方法，以近似逆问题中的后验分布。
• 实现在3D成像中对时间敏感的临床决策提供实用的不确定性量化。
• 在超低剂量3D螺旋CT上验证所提方法，体现临床相关性。

提出的方法

• 使用条件Wasserstein GAN，配备在低分辨率特征（8×8）上训练的最小判别器，以从后验分布中抽样。
• 采用具有从数据跳跃连接的生成器网络，基于测量数据重建图像。
• 提出一种新型损失函数，用于直接后验均值估计，最小化重建误差并引入L2正则化。
• 在GAN设置中应用梯度惩罚和漂移正则化，以稳定判别器训练。
• 使用ADAM优化器配合学习率衰减和批量归一化，以实现稳定训练。
• 应用数据增强和权重衰减，以减轻过拟合。

实验结果

研究问题

• RQ1 深度生成模型能否在大规模3D逆问题中有效近似复杂的后验分布？
• RQ2 带有最小判别器的条件GAN能否在3D医学成像中实现高效且稳定的后验抽样？
• RQ3 基于新型损失函数的直接神经网络方法是否在后验均值估计中优于传统方法？
• RQ4 这些方法能否为临床相关决策（如检测肝病变）提供可靠的不确定性量化？
• RQ5 手工设计先验与学习先验在后验行为和临床相关性方面有何差异？

主要发现

• 所提出的基于GAN的方法能够以高保真度实现后验抽样，支持3D图像重建中的不确定性量化。
• 直接估计方法在计算开销极小的情况下实现了精确的后验均值估计。
• 两种方法均计算高效，适用于超低剂量3D螺旋CT等时间敏感的临床应用。
• 该方法通过假设检验成功检测出癌症患者肝脏中的病理暗点，体现了临床相关性。
• 研究表明，手工设计先验（如TV或Besov先验）会弱收敛至高斯随机场，表明其对最终结果的影响有限，相较于学习先验。
• 尽管采用了数据增强和正则化，仍观察到过拟合现象，表明在获得更多训练数据后仍有进一步改进空间。