[论文解读] Rapid, Robust, and Reliable Blind Deconvolution via Nonconvex Optimization

Xiaodong Li, Shuyang Ling+2 more|arXiv (Cornell University)|Jun 15, 2016

Sparse and Compressive Sensing Techniques参考文献 35被引用 57

一句话总结

该论文提出了一种非凸正则化梯度下降算法用于盲反卷积，在子空间约束下可证明地从其卷积 $$\bm{f} \ast \bm{g}$$ 中恢复信号 $$\bm{f}$$ 和 $$\bm{g}$$。该方法以接近最小样本复杂度的测量数实现几何收敛，且对噪声具有鲁棒性，是首个同时具备严格恢复保证、数值效率和抗噪能力的此类算法。

ABSTRACT

We study the question of reconstructing two signals $f$ and $g$ from their convolution $y = f\ast g$. This problem, known as {\em blind deconvolution}, pervades many areas of science and technology, including astronomy, medical imaging, optics, and wireless communications. A key challenge of this intricate non-convex optimization problem is that it might exhibit many local minima. We present an efficient numerical algorithm that is guaranteed to recover the exact solution, when the number of measurements is (up to log-factors) slightly larger than the information-theoretical minimum, and under reasonable conditions on $f$ and $g$. The proposed regularized gradient descent algorithm converges at a geometric rate and is provably robust in the presence of noise. To the best of our knowledge, our algorithm is the first blind deconvolution algorithm that is numerically efficient, robust against noise, and comes with rigorous recovery guarantees under certain subspace conditions. Moreover, numerical experiments do not only provide empirical verification of our theory, but they also demonstrate that our method yields excellent performance even in situations beyond our theoretical framework.

研究动机与目标

• 开发一种在子空间假设下数值高效、鲁棒且可严格收敛的盲反卷积算法。
• 在测量数接近信息论最小值的条件下实现信号恢复。
• 克服凸松弛方法的局限性，尽管其理论保证强大，但计算成本过高。
• 为盲反卷积中的非凸优化框架建立严格的收敛性和抗噪鲁棒性理论。
• 证明所提方法在理论和实践上均优于现有方法，即使在超出其理论假设的场景下亦表现优异。

提出的方法

• 该算法在通过提升矩阵恢复框架构建的非凸优化问题上使用正则化梯度下降。
• 采用两步策略：首先构造一个良好的初始估计，随后通过梯度下降实现几何收敛。
• 通过引入正则化项以稳定优化过程，避免出现虚假的局部极小值。
• 理论分析基于局部正则性条件和梯度的Lipschitz连续性，并将其适配于复值信号。
• 利用浓度不等式和随机矩阵理论（例如定理6.2）来界定算子范数，确保算法鲁棒性。
• 该算法专为处理复值信号而设计，并通过Wirtinger导数框架使用复共轭梯度。

实验结果

研究问题

• RQ1 非凸优化方法是否能在接近信息论最小样本复杂度的条件下，实现盲反卷积中的可证明恢复？
• RQ2 能否设计一种数值高效的盲反卷积算法，具备抗噪能力并实现几何收敛？
• RQ3 与凸松弛方法相比，所提非凸方法在样本复杂度和计算成本方面表现如何？
• RQ4 在何种信号子空间条件下，可保证非凸问题具有唯一全局解并避免虚假局部极小值？
• RQ5 当数据受噪声污染时，即使在有限样本条件下，该算法是否仍能保持收敛性和鲁棒性？

主要发现

• 在较弱的子空间假设下，所提算法在测量数仅略高于信息论最小值时，可实现对真实解的几何收敛。
• 该方法对噪声具有鲁棒性，理论分析给出了与噪声水平成适当比例的误差界。
• 所需测量数几乎最优，仅比理论最小值多出对数因子。
• 数值实验表明，该算法在超出理论假设的设置下仍表现良好，表明其具有强大的经验鲁棒性。
• 该算法是首个在盲反卷积中同时实现数值效率、抗噪鲁棒性和严格恢复保证的方法。
• 理论分析表明，梯度下降路径始终位于真实解的邻域内，从而在局部正则性和光滑性条件下确保收敛。