[论文解读] An inner-loop free solution to inverse problems using deep neural networks

Qi Wei, Kai Fan+2 more|arXiv (Cornell University)|Sep 6, 2017

Numerical methods in inverse problems参考文献 23被引用 16

一句话总结

本文提出了一种用于反问题的无内层循环ADMM框架，利用两个预训练的深度神经网络：一个用于隐式先验正则化的条件去噪自编码器，以及一个用于近似矩阵求逆的结构化CNN，从而实现线性时间更新。该方法在合成数据集和真实数据集（包括超分辨率和彩色化任务）上均实现了最先进的准确率和速度提升，显著优于传统带有内层循环的ADMM方法。

ABSTRACT

We propose a new method that uses deep learning techniques to accelerate the popular alternating direction method of multipliers (ADMM) solution for inverse problems. The ADMM updates consist of a proximity operator, a least squares regression that includes a big matrix inversion, and an explicit solution for updating the dual variables. Typically, inner loops are required to solve the first two sub-minimization problems due to the intractability of the prior and the matrix inversion. To avoid such drawbacks or limitations, we propose an inner-loop free update rule with two pre-trained deep convolutional architectures. More specifically, we learn a conditional denoising auto-encoder which imposes an implicit data-dependent prior/regularization on ground-truth in the first sub-minimization problem. This design follows an empirical Bayesian strategy, leading to so-called amortized inference. For matrix inversion in the second sub-problem, we learn a convolutional neural network to approximate the matrix inversion, i.e., the inverse mapping is learned by feeding the input through the learned forward network. Note that training this neural network does not require ground-truth or measurements, i.e., it is data-independent. Extensive experiments on both synthetic data and real datasets demonstrate the efficiency and accuracy of the proposed method compared with the conventional ADMM solution using inner loops for solving inverse problems.

研究动机与目标

• 解决ADMM在反问题中因矩阵求逆和先验正则化导致的计算瓶颈问题。
• 通过用学习到的神经网络映射替代ADMM子问题中的迭代求解器，消除ADMM中对迭代求解器的需求。
• 通过预先训练两个深度网络（一个用于邻近算子（先验），一个用于矩阵求逆）实现反问题的快速推理。
• 为矩阵求逆网络设计一种与数据无关的训练策略，使其可跨多种不同的反问题重复使用。
• 在无需为求逆网络提供真实标签数据的情况下，实现图像重建和超分辨率任务中的高性能表现。

提出的方法

• 将标准ADMM的邻近算子替换为在配对测量值与真实图像上训练的条件去噪自编码器（cDAE），以隐式学习数据相关的先验。
• 通过cDAE实现推理摊销化，从而在ADMM迭代过程中实现快速的一次性前向推理，避免迭代优化。
• 将最小二乘子问题中计算成本高昂的矩阵求逆替换为可学习的卷积神经网络，该网络将输入映射为输出逆矩阵。
• 仅使用噪声和前向模型输出来训练矩阵求逆网络，使其与数据无关，并可在不同反问题中重复使用。
• 为z更新步骤设计一种对称的全卷积网络架构，以保持空间结构并实现高效推理。
• 将两个网络整合进ADMM框架中，使得每次ADMM迭代仅需通过两个预训练网络进行一次前向传播，完全消除内层循环迭代。

实验结果

研究问题

• RQ1 能否利用深度神经网络消除基于ADMM的反问题求解器中的内层循环迭代？
• RQ2 条件去噪自编码器能否有效替代迭代邻近最小化过程，仅通过一次前向传播实现？
• RQ3 卷积神经网络能否在无需真实标签数据的情况下，成功近似大规模矩阵求逆？
• RQ4 所提出的无内层循环方法在重建准确率方面是否与传统ADMM（含内层循环）相当或更优？
• RQ5 矩阵求逆网络能否以与数据无关的方式训练，并在不同反问题中保持泛化能力？

主要发现

• 所提方法在计算效率上显著优于传统ADMM，每次ADMM迭代仅需通过两个预训练网络进行一次前向传播，无需迭代求解器。
• 条件去噪自编码器有效学习了数据相关的先验，结合推理摊销化，实现了高精度的信号恢复。
• 矩阵求逆网络仅使用噪声和前向模型输出进行训练，无需真实标签数据，即可实现高精度性能。
• 在合成数据集和真实数据集（包括超分辨率和联合超分辨率与彩色化任务）上，该方法在重建准确率和计算效率方面均优于传统ADMM。
• 该框架在不同反问题间表现出良好的泛化能力，因为矩阵求逆网络与数据无关，可跨多种问题重复使用。
• 引入像素重排和对抗性损失显著提升了训练稳定性和性能，尤其在高分辨率图像上表现更优。