[论文解读] On DC based Methods for Phase Retrieval

Meng Huang, Ming‐Jun Lai+2 more|arXiv (Cornell University)|Oct 22, 2018

Advanced X-ray Imaging Techniques被引用 3

一句话总结

本文提出了一种用于相位恢复的新型DC（凸函数之差）优化框架，将非凸的最小二乘目标函数分解为两个凸函数之差，并通过加速近端方法求解。该方法实现了向临界点的线性收敛，且在 $ m \approx 2n $ 测量数下优于Wirtinger Flow和高斯-牛顿方法，同时在 $ m \approx n $ 时通过 $ \ell_1 $ 正则化实现了稀疏信号恢复。

ABSTRACT

In this paper, we develop a new computational approach which is based on minimizing the difference of two convex functionals (DC) to solve a broader class of phase retrieval problems. The approach splits a standard nonlinear least squares minimizing function associated with the phase retrieval problem into the difference of two convex functions and then solves a sequence of convex minimization sub-problems. For each subproblem, the Nesterov's accelerated gradient descent algorithm or the Barzilai-Borwein (BB) algorithm is used. In the setting of sparse phase retrieval, a standard $\ell_1$ norm term is added into the minimization mentioned above. The subproblem is approximated by a proximal gradient method which is solved by the shrinkage-threshold technique directly without iterations. In addition, a modified Attouch-Peypouquet technique is used to accelerate the iterative computation. These lead to more effective algorithms than the Wirtinger flow (WF) algorithm and the Gauss-Newton (GN) algorithm and etc.. A convergence analysis of both DC based algorithms shows that the iterative solutions is convergent linearly to a critical point and will be closer to a global minimizer than the given initial starting point. Our study is a deterministic analysis while the study for the Wirtinger flow (WF) algorithm and its variants, the Gauss-Newton (GN) algorithm, the trust region algorithm is based on the probability analysis. In particular, the DC based algorithms are able to retrieve solutions using a number $m$ of measurements which is about twice of the number $n$ of entries in the solution with high frequency of successes. When $m\approx n$, the $\ell_1$ DC based algorithm is able to retrieve sparse signals.

研究动机与目标

• 解决现有随机或概率方法在收敛性和鲁棒性方面的局限，提升非凸相位恢复问题的求解性能。
• 开发一种基于确定性凸分析的框架，以最小化相位恢复中的非线性最小二乘目标函数。
• 通过在DC优化框架中引入 $ \ell_1 $ 正则化，实现稀疏相位恢复。
• 为所提出的基于DC的算法提供理论收敛保证，证明其可线性收敛至临界点。
• 分析任意测量向量下精确解的不存在性，并在解存在时界定其不同解的数量。

提出的方法

• 通过将标准非线性最小二乘泛函分解为 $ f = g - h $，其中 $ g $ 和 $ h $ 均为凸函数，将相位恢复问题表述为两个凸函数之差（DC）的最小化问题。
• 对所得的DC子问题，使用Nesterov的加速梯度下降法或Barzilai-Borwein（BB）方法求解，适用于非稀疏情形。
• 对于稀疏相位恢复，通过引入 $ \ell_1 $-范数惩罚项扩展目标函数，并利用软阈值法在无需迭代的情况下通过近端梯度法求解每个子问题。
• 集成一种改进的Attouch-Peypouquet技术，以加速迭代算法的收敛速度。
• 采用实值参数化 $ \mathbf{z} = \mathbf{x} + i\mathbf{y} $ 处理复信号，并推导目标函数的海森矩阵以支持收敛性分析。
• 证明在全局最小值点，海森矩阵为半正定，其零空间方向对应于模为1的相位模糊性。

实验结果

研究问题

• RQ1 基于确定性的DC优化框架是否能优于Wirtinger Flow等概率算法在相位恢复中的表现？
• RQ2 在所提DC方法中，成功恢复所需的最少测量数 $ m $ 是多少，特别是在稀疏情形下？
• RQ3 引入 $ \ell_1 $ 正则化如何影响DC算法的性能及其恢复阈值？
• RQ4 在何种条件下，相位恢复问题对给定测量集合无解？
• RQ5 当给定测量集合存在解时，其不同解的上界是多少？

主要发现

• 所提出的基于DC的算法线性收敛至临界点，且从初始猜测开始，迭代序列单调改善。
• 在收敛速度和成功率方面，该方法优于Wirtinger Flow和高斯-牛顿算法，尤其在确定性设置下表现更优。
• 对于一般相位恢复问题，该算法在 $ m \approx 2n $ 次测量下可实现高成功率，与已知理论下限一致。
• 对于稀疏信号，$ \ell_1 $-正则化的DC算法可在 $ m \approx n $ 次测量下恢复信号，表现出类似压缩感知的行为。
• 本文证明了在全局最小值点，目标函数的海森矩阵为半正定，其零空间方向对应于模为1的相位模糊性。
• 本文证明，对于任意测量值，相位恢复问题的解可能不存在；当解存在时，其不同解的数量存在上界。