[论文解读] End-to-end reconstruction meets data-driven regularization for inverse problems

Subhadip Mukherjee, Marcello Carioni+2 more|arXiv (Cornell University)|Jun 7, 2021

Medical Imaging Techniques and Applications参考文献 30被引用 12

一句话总结

本文提出了一种结合迭代展开与对抗性训练的深度神经网络学习正则化器的无监督端到端重建方法，用于处理不适定逆问题。该方法实现了快速且高质量的重建——在X射线CT中，其性能超越了最先进的无监督方法，并达到了监督学习基准水平，同时通过基于Wasserstein-1距离的正则化框架，保留了变分方法的适定性与抗噪稳定性保证。

ABSTRACT

We propose an unsupervised approach for learning end-to-end reconstruction operators for ill-posed inverse problems. The proposed method combines the classical variational framework with iterative unrolling, which essentially seeks to minimize a weighted combination of the expected distortion in the measurement space and the Wasserstein-1 distance between the distributions of the reconstruction and ground-truth. More specifically, the regularizer in the variational setting is parametrized by a deep neural network and learned simultaneously with the unrolled reconstruction operator. The variational problem is then initialized with the reconstruction of the unrolled operator and solved iteratively till convergence. Notably, it takes significantly fewer iterations to converge, thanks to the excellent initialization obtained via the unrolled operator. The resulting approach combines the computational efficiency of end-to-end unrolled reconstruction with the well-posedness and noise-stability guarantees of the variational setting. Moreover, we demonstrate with the example of X-ray computed tomography (CT) that our approach outperforms state-of-the-art unsupervised methods, and that it outperforms or is on par with state-of-the-art supervised learned reconstruction approaches.

研究动机与目标

• 为解决现有端到端方法与学习正则化方法在逆问题中的局限性，特别是端到端学习缺乏理论保证，以及变分求解器计算成本高的问题。
• 开发一种框架，结合展开的端到端网络的计算效率与变分正则化的适定性及抗噪稳定性。
• 通过对抗性训练学习数据自适应正则化器，实现无监督训练，避免对配对真实值数据的需求。
• 通过将展开网络用作变分最小化问题的初始化，提升收敛速度与重建质量。
• 建立学习得到的端到端算子与对应变分目标之间的理论与实证联系。

提出的方法

• 该方法将变分问题表述为：最小化测量空间中L2范数衡量的数据保真项与重建结果分布和真实值分布之间Wasserstein-1距离的加权和。
• 变分框架中的正则化项由深度神经网络参数化，并与展开重建算子通过对抗学习联合训练。
• 展开的重建网络（20层，5×5卷积核）为通过梯度下降求解变分问题提供了有效初始化，显著加速收敛。
• 该框架使用类似GAN的判别器，强制重建结果与真实图像之间的分布相似性，从而实现无监督训练。
• 在端到端重建后应用一个优化步骤，以进一步提升图像质量，降低误差并增强结构细节。
• 该方法在稀疏视角X射线CT上进行评估，采用PSNR与SSIM作为指标，与FBP、TV、LPD、U-Net后处理、AR及ACR进行比较。

实验结果

研究问题

• RQ1 能否有效利用端到端展开重建网络作为具有数据驱动正则化的变分问题的初始化，从而提升收敛速度与重建质量？
• RQ2 将对抗性训练与变分正则化结合，是否能在无监督逆问题中实现更好的泛化性与抗噪稳定性？
• RQ3 所提出方法在图像质量与计算效率方面，相较于现有无监督与监督学习重建技术，优势程度如何？
• RQ4 所学习的正则化器如何影响变分解的稳定性和适定性？
• RQ5 正则化惩罚权重λ对重建中数据保真度与分布对齐之间权衡的影响如何？

主要发现

• 在X射线CT的所有测试图像中，所提出的UAR方法相较于对抗正则化（AR）与其中凸变体（ACR）分别在PSNR上提升0.3 dB与2.6 dB。
• 在应用优化步骤后，UAR在PSNR上相较AR提升近0.7 dB，并达到与U-Net后处理（监督方法）相当的性能。
• UAR的端到端重建速度比AR快一个数量级以上，当使用优化步骤时，速度提升达4倍。
• 该方法在所有测试图像上均表现出一致的性能提升，而不仅限于平均性能，表明其具有鲁棒的泛化能力。
• 展开网络提供了极佳的初始化，显著减少了变分求解器收敛所需的迭代次数。
• 该框架成功结合了端到端模型的快速推理与变分正则化的理论保证，在无监督设置下实现了最先进性能。