[论文解读] A Nonconvex Approach for Exact and Efficient Multichannel Sparse Blind Deconvolution

Qing Qu, Xiao Li+1 more|arXiv (Cornell University)|Aug 28, 2019

Sparse and Compressive Sensing Techniques被引用 21

一句话总结

本文提出了一种在球面上的非凸优化方法，用于精确且高效地进行多通道稀疏盲反卷积，采用随机初始化的原始黎曼梯度下降法，恢复核函数和稀疏输入，恢复结果在符号位移模糊性下成立。在温和的统计假设下，该方法在样本复杂度和计算效率方面显著优于先前的方法，实现了可证明的恢复。

ABSTRACT

We study the multi-channel sparse blind deconvolution (MCS-BD) problem, whose task is to simultaneously recover a kernel $\mathbf a$ and multiple sparse inputs $\{\mathbf x_i\}_{i=1}^p$ from their circulant convolution $\mathbf y_i = \mathbf a \circledast \mathbf x_i $ ($i=1,\cdots,p$). We formulate the task as a nonconvex optimization problem over the sphere. Under mild statistical assumptions of the data, we prove that the vanilla Riemannian gradient descent (RGD) method, with random initializations, provably recovers both the kernel $\mathbf a$ and the signals $\{\mathbf x_i\}_{i=1}^p$ up to a signed shift ambiguity. In comparison with state-of-the-art results, our work shows significant improvements in terms of sample complexity and computational efficiency. Our theoretical results are corroborated by numerical experiments, which demonstrate superior performance of the proposed approach over the previous methods on both synthetic and real datasets.

研究动机与目标

• 为多通道稀疏盲反卷积（MCS-BD）问题提供解决方案，其中多个信号与未知核函数进行卷积。
• 开发一种可证明收敛、计算高效的算法，实现对核函数和稀疏输入的精确恢复。
• 相比现有的凸方法和非凸方法，降低样本复杂度并提升计算效率。
• 在温和的独立同分布稀疏性假设下，为原始黎曼梯度下降在球面上提供理论保证。

提出的方法

• 将MCS-BD建模为在单位球面上的非凸优化问题，以恢复核函数和稀疏信号。
• 在球面上使用原始黎曼梯度下降（RGD）并结合随机初始化，求解该非凸问题。
• 通过平均功率谱的平方根逆矩阵进行预处理，以稳定优化景观。
• 在RGD之后应用类似相位提升的LP松弛重构方法，以精炼解并实现精确恢复。
• 通过二维卷积和基于DFT的预处理，将框架适配至二维问题，用于成像应用。
• 在优化中使用ℓ¹、Huber和ℓ⁴等损失函数，并采用约束在球面上的黎曼次梯度更新。

实验结果

研究问题

• RQ1 在球面上，原始黎曼梯度下降是否可在多通道盲反卷积中可证明地恢复核函数和稀疏信号？
• RQ2 在温和的独立同分布稀疏性假设下，使用非凸优化实现精确恢复所需的样本复杂度是多少？
• RQ3 与凸方法和先前的非凸方法相比，该方法在样本复杂度和时间复杂度方面表现如何？
• RQ4 该方法能否在图像去模糊和超分辨率显微成像等二维成像问题中实现精确恢复？
• RQ5 在所提出的非凸公式下，随机初始化是否足以收敛至全局解？

主要发现

• 在温和的独立同分布稀疏性假设下，采用随机初始化的原始黎曼梯度下降可证明地恢复核函数和稀疏输入，恢复结果在符号位移模糊性下成立。
• 该方法在样本复杂度上达到 $ p \tilde{\rightarrow} \tilde{\theta}\big\{\text{max}\big\{n, \frac{\kappa^8}{\mu^2}\big\} n^4 \big\} $，显著优于先前的凸方法和非凸方法。
• 计算时间复杂度为 $ \tilde{\mathcal{O}}(pn^5 + pn\log(1/\varepsilon)) $，远低于先前工作的 $ \tilde{\mathcal{O}}(pn^{13}/\varepsilon^8) $。
• 在合成数据集和真实数据集上的数值实验表明，该方法在恢复精度和收敛速度方面均优于当前最先进方法。
• 在适当的预处理和流形优化后，该方法在图像去模糊和超分辨率显微成像等二维应用中表现有效。
• 理论保证即使在核函数非脉冲（non-spiky）的情况下依然成立，从而放宽了先前凸方法中的限制性假设。