[论文解读] Solving Bilinear Inverse Problems using Deep Generative Priors.

Muhammad Asim, Fahad Shamshad+1 more|arXiv (Cornell University)|Feb 12, 2018

Sparse and Compressive Sensing Techniques被引用 19

一句话总结

本文提出了一种用于求解双线性逆问题（BIPs）的深度生成先验框架，其中目标是从测量值 y = A(w,x) 中恢复两个未知量 w 和 x。通过将 w 和 x 建模为由低维潜在码参数化的深度生成模型的输出，该方法缩小了搜索空间，并实现了有效的交替优化，在真实数据集上的无约束图像去模糊任务中取得了最先进性能，即使在存在噪声的情况下也表现良好。

ABSTRACT

This paper proposes a new framework to handle the bilinear inverse problems (BIPs): recover $\boldsymbol{w}$, and $\boldsymbol{x}$ from the measurements of the form $\boldsymbol{y} = \mathcal{A}(\boldsymbol{w},\boldsymbol{x})$, where $\mathcal{A}$ is a bilinear operator. The recovery problem of the unknowns $\boldsymbol{w}$, and $\boldsymbol{x}$ can be formulated as a non-convex program. A general strategy is proposed to turn the ill-posed BIP to a relatively well-conditioned BIP by imposing a structural assumption that $\boldsymbol{w}$, and $\boldsymbol{x}$ are members of some classes $\mathcal{W}$, and $\mathcal{X}$, respectively, that are parameterized by unknown latent low-dimensional features. We learn functions mapping from the hidden feature space to the ambient space for each class using generative models. The resulting reduced search space of the solution enables a simple alternating gradient descent scheme to yield promising result in solving the non-convex BIP. To demonstrate the performance of our algorithm, we choose an important BIP; namely, blind image deblurring as a motivating application. We show through extensive experiments that this technique shows promising results in deblurring images of real datasets and is also robust to noise perturbations.

研究动机与目标

• 为解决双线性逆问题（BIPs）的病态性问题，其中 w 和 x 均未知，仅可观测到其双线性测量 y = A(w,x)。
• 通过利用 w 和 x 属于由潜在特征参数化的低维流形的结构先验，提升解的稳定性和准确性。
• 通过学习将潜在码映射到 w 和 x 的环境空间的生成模型，开发一种可扩展且高效的优化策略。
• 在一项关键的 BIP 任务——无约束图像去模糊上，验证该方法的有效性，尤其针对真实世界图像数据。

提出的方法

• 将 w 和 x 分别建模为由潜在码 z_w 和 z_x 参数化的深度生成模型 G_w(·) 和 G_x(·) 的输出，以施加低维结构先验。
• 将 BIP 的恢复问题表述为对潜在码的非凸优化问题，最小化数据一致性项 ∥y − A(G_w(z_w), G_x(z_x))∥²。
• 采用交替梯度下降方案，联合优化 z_w 和 z_x，每次仅更新一个潜在码，而固定另一个。
• 使用变分自编码器或类似框架学习生成模型 G_w 和 G_x，以确保模型能够捕捉 w 和 x 的内在结构。
• 通过将模糊核和清晰图像建模为潜在空间生成，将该框架应用于无约束图像去模糊。
• 通过在扰动测量下评估性能，证明其在噪声下的鲁棒性，确保恢复结果稳定。

实验结果

研究问题

• RQ1 深度生成先验能否有效正则化因高维未知量而原本病态的双线性逆问题？
• RQ2 将 w 和 x 建模为学习生成模型的输出，如何改善 BIP 求解器的条件性和收敛性？
• RQ3 在真实世界图像数据集上，该方法在无约束图像去模糊任务中相较于现有方法的性能提升程度如何？
• RQ4 该方法在实际成像应用中对测量噪声的鲁棒性如何？

主要发现

• 通过利用深度生成先验，该方法在真实图像数据集上的无约束图像去模糊任务中实现了最先进性能。
• 与直接在高维 w 和 x 上优化相比，潜在空间优化显著提升了解的稳定性和收敛性。
• 该方法对噪声具有鲁棒性，在显著测量扰动下仍能保持高质量的去模糊结果。
• 大量实验表明，对潜在码的交替梯度下降方案能高效收敛至高质量解。
• w 和 x 位于由生成模型参数化的低维流形上的结构假设，使得在有限测量下仍能实现有效恢复。
• 该框架具有良好的泛化能力，表明其在成像与信号处理中的其他 BIP 任务中也具有适用性。