[论文解读] Median-Truncated Nonconvex Approach for Phase Retrieval with Outliers

Huishuai Zhang, Yuejie Chi+1 more|arXiv (Cornell University)|Mar 11, 2016

Advanced X-ray Imaging Techniques被引用 3

一句话总结

该论文提出了一种中值截断的非凸算法——中值-TWF 和 中值-RWF，用于在对抗性异常值存在下的鲁棒相位恢复。通过在初始化和梯度下降过程中利用样本中值来引导剔除受损测量值，该方法即使在高达常数比例的测量值被任意破坏的情况下，也能从接近最优的样本规模中实现可证明的信号恢复，且具有线性收敛性和在密集有界噪声下的稳定性。

ABSTRACT

This paper investigates the phase retrieval problem, which aims to recover a signal from the magnitudes of its linear measurements. We develop statistically and computationally efficient algorithms for the situation when the measurements are corrupted by sparse outliers that can take arbitrary values. We propose a novel approach to robustify the gradient descent algorithm by using the sample median as a guide for pruning spurious samples in initialization and local search. Adopting the Poisson loss and the reshaped quadratic loss respectively, we obtain two algorithms termed median-TWF and median-RWF, both of which provably recover the signal from a near-optimal number of measurements when the measurement vectors are composed of i.i.d. Gaussian entries, up to a logarithmic factor, even when a constant fraction of the measurements are adversarially corrupted. We further show that both algorithms are stable in the presence of additional dense bounded noise. Our analysis is accomplished by developing non-trivial concentration results of median-related quantities, which may be of independent interest. We provide numerical experiments to demonstrate the effectiveness of our approach.

研究动机与目标

• 开发在统计和计算上高效且对稀疏、任意大的异常值具有鲁棒性的相位恢复算法。
• 解决现有 Wirtinger 流类方法的局限性，这些方法在干净环境下表现良好，但在对抗性异常值下会失效。
• 在测量向量为 i.i.d. 高斯分布时，实现可证明的恢复，且样本数量接近最优（仅含对数因子）。
• 在额外存在密集有界噪声的情况下确保稳定性，从而扩展至真实噪声环境下的适用性。
• 通过针对中值相关统计量的新型浓度不等式，建立理论保证。

提出的方法

• 在初始化和局部搜索过程中，利用测量幅值的样本中值作为鲁棒引导，识别并剔除虚假的、被异常值污染的样本。
• 通过引入基于中值的截断机制，对截断 Wirtinger 流（TWF）和重塑 Wirtinger 流（RWF）框架进行改进，以增强鲁棒性。
• 在两种变体中分别采用泊松损失和重塑二次损失函数：中值-TWF 和 中值-RWF。
• 应用基于中值的阈值规则，排除其幅值与中值显著偏离的测量值，从而降低异常值的影响。
• 使用指示函数的利普希茨近似来控制高维分析中与中值相关的量的浓度。
• 通过 $5$-网和次高斯尾部不等式，建立在单位球面上的统一收敛界，从而实现高概率保证。

实验结果

研究问题

• RQ1 能否使基于梯度的相位恢复方法对任意取值的对抗性异常值具有鲁棒性，而无需事先知道其位置或幅值？
• RQ2 能否在常数比例测量值被破坏的情况下，仍实现接近最优的样本复杂度——即样本数量在 $n$ 量级？
• RQ3 将样本中值作为剔除机制，是否相比标准非凸求解器（如 TWF 或 RWF）能提升收敛性和稳定性？
• RQ4 在额外存在密集有界噪声的情况下，所提算法是否能保持线性收敛速率和稳定性？
• RQ5 针对中值统计量的新型浓度不等式是否足以支持在高维、非 i.i.d. 设置下的理论保证？

主要发现

• 当测量向量为 i.i.d. 高斯分布时，中值-TWF 和 中值-RWF 算法在高达常数比例的对抗性异常值存在下，仍能从 $m = \mathcal{O}(n \log n)$ 个测量值中可证明地恢复真实信号。
• 两种算法均实现线性收敛速率，且在达到 $\epsilon$-精度时，所需浮点运算量为 $\mathcal{O}(mn\log(1/\epsilon))$。
• 在额外存在密集有界噪声时，方法保持稳定，能够在噪声环境中维持鲁棒性能。
• 理论分析依赖于针对中值相关量的新浓度结果，这些结果可能在相位恢复之外的领域也具有独立兴趣。
• 数值实验表明，中值截断策略能有效抑制异常值影响，并在恢复精度上优于基线方法。