[论文解读] Towards Sample-Optimal Compressive Phase Retrieval with Sparse and Generative Priors

Zhaoqiang Liu, Subhroshekhar Ghosh+1 more|arXiv (Cornell University)|Jun 29, 2021

Advanced X-ray Imaging Techniques参考文献 72被引用 7

一句话总结

本文为使用稀疏和生成先验的压缩相位检索建立了近最优的样本复杂度保证。当使用 $k$-维潜在码的 $L$-Lipschitz 生成模型时，通过基于振幅的经验损失最小化，$O(k\log L)$ 个样本足以实现信号恢复；对于 $s$-稀疏信号，$O(s\log n)$ 个样本即足够，与信息论极限一致。本文提出了一种新颖的谱初始化方法，并通过实证验证，证明其性能优于现有方法。

ABSTRACT

Compressive phase retrieval is a popular variant of the standard compressive sensing problem in which the measurements only contain magnitude information. In this paper, motivated by recent advances in deep generative models, we provide recovery guarantees with near-optimal sample complexity for phase retrieval with generative priors. We first show that when using i.i.d. Gaussian measurements and an $L$-Lipschitz continuous generative model with bounded $k$-dimensional inputs, roughly $O(k \log L)$ samples suffice to guarantee that any signal minimizing an amplitude-based empirical loss function is close to the true signal. Attaining this sample complexity with a practical algorithm remains a difficult challenge, and finding a good initialization for gradient-based methods has been observed to pose a major bottleneck. To partially address this, we further show that roughly $O(k \log L)$ samples ensure sufficient closeness between the underlying signal and any {\em globally optimal} solution to an optimization problem designed for spectral initialization (though finding such a solution may still be challenging). We also adapt this result to sparse phase retrieval, and show that $O(s \log n)$ samples are sufficient for a similar guarantee when the underlying signal is $s$-sparse and $n$-dimensional, matching an information-theoretic lower bound. While these guarantees do not directly correspond to a practical algorithm, we propose a practical spectral initialization method motivated by our findings, and experimentally observe performance gains over various existing spectral initialization methods for sparse phase retrieval.

研究动机与目标

• 为在生成先验和稀疏先验下建立理论恢复保证，并实现接近最优的样本复杂度。
• 通过设计一种新型谱初始化方法，解决基于梯度的相位检索算法中初始化质量差的挑战。
• 弥合相位检索中理论样本复杂度边界与实际算法性能之间的差距。
• 通过实证验证所提方法，证明其在性能上优于现有谱初始化技术。

提出的方法

• 使用 i.i.d. 高斯感知向量，并分析基于振幅的经验损失最小化以实现信号恢复。
• 通过集中不等式和覆盖论证，为具有 $k$-维潜在码的 $L$-Lipschitz 生成模型建立恢复保证。
• 利用度量熵和高斯宽度论证推导样本复杂度边界，证明 $O(k\log L)$ 个样本足以实现准确恢复。
• 将分析方法拓展至稀疏信号，证明 $O(s\log n)$ 个样本足以恢复 $n$-维 $s$-稀疏信号。
• 基于理论洞察，提出一种实用的谱初始化方法——PRI-SPCA，利用低秩逼近和幂迭代实现。
• 在与 CoPRAM 的迭代算法结合时，通过实证评估方法性能，比较在无噪声和有噪声设置下的相对误差和成功率。

实验结果

研究问题

• RQ1 我们能否在使用生成先验时，实现压缩相位检索的近最优样本复杂度？
• RQ2 使用生成先验从仅幅度测量中保证信号恢复所需的最少测量数是多少？
• RQ3 如何改进谱初始化以提升稀疏相位检索中的性能？
• RQ4 所提出的理论框架是否能在实际信号恢复精度上带来实际提升？

主要发现

• 对于 $k$-维 $L$-Lipschitz 生成模型，$O(k\log L)$ 个样本足以确保基于振幅的经验损失最小化的任意极小值点都接近真实信号。
• 相同的样本复杂度 $O(k\log L)$ 确保了谱初始化基优化问题的足够初始化质量，尽管求解仍具挑战性。
• 对于 $s$-稀疏 $n$-维信号，$O(s\log n)$ 个样本已足够，与信息论下限一致。
• 所提出的 PRI-SPCA 谱初始化方法在无噪声和有噪声设置下，均实现了比现有方法更低的相对误差和更高的经验成功率。
• 当与 CoPRAM 的迭代算法结合且时间成本相近时，PRI-SPCA 在 $\sigma = 0.1$ 和 $\sigma = 0.2$ 的有噪声实验中取得了最小的相对误差。
• 随机初始化性能显著更差，凸显了在稀疏相位检索中结构化初始化的关键作用。