[论文解读] Solving (most) of a set of quadratic equalities: Composite optimization for robust phase retrieval

John C. Duchi, Feng Ruan|arXiv (Cornell University)|May 5, 2017

Advanced X-ray Imaging Techniques参考文献 41被引用 28

一句话总结

该论文提出了一种基于邻近-线性算法的复合优化框架，用于求解存在对抗性测量污染的鲁棒相位恢复问题。通过将非凸、非光滑的 $\ell_1$-损失目标函数形式化为 $f(x) = h(c(x))$，其中 $h$ 为凸函数，$c$ 为光滑函数，该方法在 $m/n \geq 2$ 测量条件下，无需调参即可在对测量向量假设最少的情况下实现真实信号的高概率恢复。

ABSTRACT

We develop procedures, based on minimization of the composition $f(x) = h(c(x))$ of a convex function $h$ and smooth function $c$, for solving random collections of quadratic equalities, applying our methodology to phase retrieval problems. We show that the prox-linear algorithm we develop can solve phase retrieval problems---even with adversarially faulty measurements---with high probability as soon as the number of measurements $m$ is a constant factor larger than the dimension $n$ of the signal to be recovered. The algorithm requires essentially no tuning---it consists of solving a sequence of convex problems---and it is implementable without any particular assumptions on the measurements taken. We provide substantial experiments investigating our methods, indicating the practical effectiveness of the procedures and showing that they succeed with high probability as soon as $m / n \ge 2$ when the signal is real-valued.

研究动机与目标

• 解决在测量受污染或存在噪声时的鲁棒相位恢复挑战，特别是在由于传感器限制导致精确等式约束不可行的情况下。
• 开发一种计算高效、无需调参的方法，用于求解相位恢复中出现的大规模二次等式系统。
• 通过利用复合结构 $f(x) = h(c(x))$ 克服 $\ell_1$-损失公式中的非凸性和非光滑性。
• 在存在对抗性测量故障的情况下，建立对真实信号 $x_\star$ 实现高概率恢复的理论保证。
• 提供可在不施加对测量向量 $a_i$ 严格假设的条件下实现的实用算法。

提出的方法

• 将相位恢复问题表述为最小化 $f(x) = \frac{1}{m}\| |Ax|^2 - b \|_1$，该目标函数为非凸、非光滑，对严重误差具有鲁棒性。
• 将问题重新构型为复合优化任务：$f(x) = h(c(x))$，其中 $h(z) = \|z\|_1/m$ 为凸函数，$c(x) = [|\langle a_i,x\rangle|^2 - b_i]_{i=1}^m$ 为光滑函数。
• 应用邻近-线性算法，通过在每次迭代点线性化 $c(x)$ 来迭代最小化一个凸近似，从而生成一系列可处理的子问题。
• 使用正则化模型：$x_{k+1} = \arg\min_{x} \left\{ h(c(x_k) + \nabla c(x_k)^T(x - x_k)) + \frac{1}{2\alpha_k}\|x - x_k\|_2^2 \right\}$。
• 利用 Wirtinger 微积分处理复值优化，并在 $h$ 和 $\nabla c$ 满足利普希茨连续性条件下推导收敛性保证。
• 通过浓度不等式和覆盖数论证建立高概率恢复，表明当 $m/n \geq 2$ 时，算法对实信号可成功恢复。

实验结果

研究问题

• RQ1 基于邻近-线性方法的复合优化框架能否解决存在对抗性测量污染的相位恢复问题？
• RQ2 对于维度为 $n$ 的信号 $x_\star$，实现高概率恢复所需的最少测量数 $m$ 是多少？
• RQ3 对于 $f(x) = h(c(x))$ 的邻近-线性算法是否能在无需参数调优的情况下收敛到解？
• RQ4 当测量向量 $a_i$ 为随机但未必满足等向性或非相关性时，该算法表现如何？
• RQ5 当恒定比例的测量值被污染时，该方法能否实现稳定恢复？

主要发现

• 邻近-线性算法在 $m/n \geq 2$ 条件下，实现了对实值信号的高概率恢复，实验结果表明其具有实际有效性。
• 当 $m$ 仅比 $n$ 大一个常数因子时，该方法即能以高概率成功，对于实信号，该常数因子约为 2。
• 该算法几乎无需调参，因其仅依赖于通过邻近-线性更新求解一系列凸子问题。
• 通过测度集中和覆盖数论证建立了理论保证，表明该算法以高概率避开不良局部极小值。
• 对于复值信号，该框架可通过 Wirtinger 微积分扩展，且方法对对抗性测量故障仍保持鲁棒性。
• 证明了目标函数 $f(x) = \| |Ax|^2 - b \|_1/m$ 在远离全局最小值集 $X_\star$ 时迅速增长，从而确保稳定恢复。