[论文解读] Adversarial Regularizers in Inverse Problems

Sebastian Lunz, Ozan Öktem+1 more|arXiv (Cornell University)|May 29, 2018

Medical Imaging Techniques and Applications参考文献 24被引用 79

一句话总结

本文介绍了一种基于神经网络的正则化泛函，作为评论者训练以区分真值图像与未正则化重建，从而实现逆问题的无监督训练，并提升去噪和 CT 重建。

ABSTRACT

Inverse Problems in medical imaging and computer vision are traditionally solved using purely model-based methods. Among those variational regularization models are one of the most popular approaches. We propose a new framework for applying data-driven approaches to inverse problems, using a neural network as a regularization functional. The network learns to discriminate between the distribution of ground truth images and the distribution of unregularized reconstructions. Once trained, the network is applied to the inverse problem by solving the corresponding variational problem. Unlike other data-based approaches for inverse problems, the algorithm can be applied even if only unsupervised training data is available. Experiments demonstrate the potential of the framework for denoising on the BSDS dataset and for computed tomography reconstruction on the LIDC dataset.

研究动机与目标

• 在逆问题的变分框架中引入一个神经网络正则化器。
• 开发一种可扩展的训练方法，利用 ground-truth 与伪逆重建之间的分布判别。
• 建立学习到的正则化器的理论性质并分析分布行为。
• 在没有监督数据的情况下展示去噪和 CT 重建的有效性。

提出的方法

• 在变分问题中用 Psi_Theta 作为正则化器替代手工设计的正则化。
• 将 Psi_Theta 训练成一个批判者，以区分真实样本与伪逆重建，使用带梯度惩罚的 Wasserstein-GAN 风格损失。
• 通过最小化 ||Ax−y||^2 + λΨ_Θ(x) 来求解逆问题，使用梯度下降。
• 在弱数据-流形假设下，提供关于 Wasserstein 距离衰减和流形对齐正则化的理论结果。
• 从噪声水平估计正则化参数λ，使用 λ = 2 E_{e~p_n} ||A^* e||_2。
• 讨论该方法的稳定性和收敛性。

实验结果

研究问题

• RQ1 在无监督训练数据下，学习为正则化泛函的神经网络是否能改进逆问题的重建？
• RQ2 学习到的正则化器的理论性质（例如 Wasserstein 距离衰减、与流形对齐的正则化）是什么？
• RQ3 该方法与经典变分方法及监督学习在去噪和 CT 重建方面有何比较？
• RQ4 在不重新训练的情况下，如何从噪声特征高效估计 λ？

主要发现

数据集	方法	PSNR (dB)	SSIM
BSDS500 denoising	Total Variation	26.3	0.836
BSDS500 denoising	Unsupervised Adversarial Regularizer	28.2	0.892
BSDS500 denoising	Supervised Denoising NN	28.8	0.908
LIDC CT high noise	Filtered Backprojection	14.9	0.227
LIDC CT high noise	Total Variation	27.7	0.890
LIDC CT high noise	Post-Processing (supervised)	31.2	0.936
LIDC CT high noise	RED	29.9	0.904
LIDC CT high noise	Unsupervised Adversarial Reg.	30.5	0.927
LIDC CT low noise	Filtered Backprojection	23.3	0.604
LIDC CT low noise	Total Variation	30.0	0.924
LIDC CT low noise	Post-Processing (supervised)	33.6	0.955
LIDC CT low noise	RED	32.8	0.947
LIDC CT low noise	Unsupervised Adversarial Reg.	32.5	0.946

• 对抗性正则化在 BSDS500 无监督训练下的去噪性能优于总变分（Total Variation）。
• 在 CT 重建（LIDC/IDRI）中，无监督对抗性正则化得到的 PSNR/SSIM 优于许多基线且与监督后处理相竞争。
• 该方法在仅使用无监督数据的情况下，达到与监督方法相当或更好的视觉质量。
• 理论结果显示，在学习到的正则化器作用下的梯度流动降低了到真实分布的 Wasserstein 距离，并使重建图像与数据流形对齐。
• 该框架在 mild 假设下对数据项最小化提供稳定性保证。