[論文レビュー] Towards Sample-Optimal Compressive Phase Retrieval with Sparse and Generative Priors

Zhaoqiang Liu, Subhroshekhar Ghosh+1 more|arXiv (Cornell University)|Jun 29, 2021

Advanced X-ray Imaging Techniques参考文献 72被引用数 7

ひとこと要約

本稿は、スパースおよび生成的事前分布を用いた圧縮位相再構成において、近似的に最適なサンプル複雑度の保証を確立している。$O(k\log L)$サンプルが、$k$次元の潜在コードを持つ$L$-リプシッツ生成モデルを用いた振幅に基づく経験的損失最小化による信号再構成に十分であり、$O(s\log n)$サンプルが$s$-スパース信号に十分であることが示され、情報理論的限界と一致する。また、既存の手法よりも性能を向上させるために、新たなスペクトル初期化手法を提案し、実験的に検証した。

ABSTRACT

Compressive phase retrieval is a popular variant of the standard compressive sensing problem in which the measurements only contain magnitude information. In this paper, motivated by recent advances in deep generative models, we provide recovery guarantees with near-optimal sample complexity for phase retrieval with generative priors. We first show that when using i.i.d. Gaussian measurements and an $L$-Lipschitz continuous generative model with bounded $k$-dimensional inputs, roughly $O(k \log L)$ samples suffice to guarantee that any signal minimizing an amplitude-based empirical loss function is close to the true signal. Attaining this sample complexity with a practical algorithm remains a difficult challenge, and finding a good initialization for gradient-based methods has been observed to pose a major bottleneck. To partially address this, we further show that roughly $O(k \log L)$ samples ensure sufficient closeness between the underlying signal and any {\em globally optimal} solution to an optimization problem designed for spectral initialization (though finding such a solution may still be challenging). We also adapt this result to sparse phase retrieval, and show that $O(s \log n)$ samples are sufficient for a similar guarantee when the underlying signal is $s$-sparse and $n$-dimensional, matching an information-theoretic lower bound. While these guarantees do not directly correspond to a practical algorithm, we propose a practical spectral initialization method motivated by our findings, and experimentally observe performance gains over various existing spectral initialization methods for sparse phase retrieval.

研究の動機と目的

• 生成的およびスパース事前分布の下で、圧縮位相再構成の理論的回復保証を、近似的に最適なサンプル複雑度で確立すること。
• 位相再構成における勾配ベースのアルゴリズムの初期化が不十分であるという課題に対処し、新たなスペクトル初期化手法を設計すること。
• 位相再構成における理論的サンプル複雑度の境界と実用的アルゴリズムの性能のギャップを埋めること。
• 提案手法を実験的に検証し、既存のスペクトル初期化手法よりも優れた性能を示すこと。

提案手法

• 独立同一分布のガウス感度ベクトルを用い、信号再構成のための振幅に基づく経験的損失最小化を分析する。
• $L$-リプシッツ生成モデルと$k$次元の潜在コードを用いた回復保証を、集中不等式と被覆論理を用いて確立する。
• メトリックエントロピーとガウス幅の議論を用いてサンプル複雑度の境界を導出し、$O(k\log L)$サンプルが正確な再構成に十分であることを示す。
• スパース信号への分析を適応し、$s$-スパース$n$次元信号に対して$O(s\log n)$サンプルが十分であることを証明する。
• 理論的知見を基に、低ランク近似とパワー反復を活用した実用的スペクトル初期化手法—PRI-SPCA—を提案する。
• CoPRAMの反復アルゴリズムと組み合わせて、ノイズなしおよびノイズありの設定下で、相対誤差と成功確率を実験的に評価する。

実験結果

リサーチクエスチョン

• RQ1 生成的事前分布を用いた圧縮位相再構成において、近似的に最適なサンプル複雑度を達成できるか？
• RQ2 生成的事前分布を用いて、振幅のみの測定から信号を再構成するための最小測定数は何か？
• RQ3 スペクトル初期化はどのように改善され、スパース位相再構成の性能を向上させられるか？
• RQ4 提案された理論的枠組みは、信号再構成の精度向上に実用的利点をもたらすか？

主な発見

• 次元$k$の$L$-リプシッツ生成モデルに対して、$O(k\log L)$サンプルがあれば、振幅に基づく経験的損失の任意の最小化解が真の信号に近いことが保証される。
• 同じサンプル複雑度$O(k\log L)$は、スペクトル初期化に基づく最適化問題の初期化品質が十分であることを保証するが、その解法は依然として困難である。
• $s$-スパース$n$次元信号に対しては、$O(s\log n)$サンプルがあれば十分であり、情報理論的下限と一致する。
• 提案されたPRI-SPCAスペクトル初期化手法は、ノイズなしおよびノイズありの両設定で、既存手法よりも低い相対誤差と高い実験的成功率を達成した。
• 時間コストが同等の条件下でCoPRAMの反復アルゴリズムと組み合わせた場合、$ \sigma = 0.1$および$ \sigma = 0.2$のノイズあり実験において、PRI-SPCAが最小の相対誤差を示した。
• ランダム初期化は著しく性能が悪く、スパース位相再構成において構造的初期化の重要性が浮き彫りになった。