[論文レビュー] Optimal Rates of Convergence for Noisy Sparse Phase Retrieval via Thresholded Wirtinger Flow

Tommaso Cai, Xiaodong Li+1 more|arXiv (Cornell University)|Jun 10, 2015

Sparse and Compressive Sensing Techniques参考文献 39被引用数 10

ひとこと要約

本稿では、i.i.d. 標準ガウス分布に従う測定ベクトルのもとで、サブ指数的ノイズ下において最小最大最適収束速度を達成する、しきい値付きウィーリングャー・フロー法を提案する。この推定器はスパースネスレベルに適応可能であり、標本サイズ $ m \geq C(\delta)k\log k $ のもとで、$ \sigma / \|\bm{x}\|_2 \sqrt{k\log p / m} $ の最適レートを達成する。計算効率と理論的最適性を両立する。

ABSTRACT

This paper considers the noisy sparse phase retrieval problem: recovering a sparse signal $x \in \mathbb{R}^p$ from noisy quadratic measurements $y_j = (a_j' x )^2 + ε_j$, $j=1, \ldots, m$, with independent sub-exponential noise $ε_j$. The goals are to understand the effect of the sparsity of $x$ on the estimation precision and to construct a computationally feasible estimator to achieve the optimal rates. Inspired by the Wirtinger Flow [12] proposed for noiseless and non-sparse phase retrieval, a novel thresholded gradient descent algorithm is proposed and it is shown to adaptively achieve the minimax optimal rates of convergence over a wide range of sparsity levels when the $a_j$'s are independent standard Gaussian random vectors, provided that the sample size is sufficiently large compared to the sparsity of $x$.

研究の動機と目的

• ノイズあり位相再構成における信号のスパースネスが推定精度に与える影響を理解すること。
• 広範なスパースネスレベルで最適収束速度を達成できる、計算的に実行可能な推定器を開発すること。
• 高次元スパース信号におけるサブ指数的ノイズ下での最小最大最適収束速度を確立すること。
• ウィーリングャー・フロー枠組みを、理論的保証を伴うスパースでノイズありの位相再構成に拡張すること。

提案手法

• スパースネスを活用するため、ウィーリングャー・フローと逐次的ハードスパースティングを組み合わせたしきい値付き勾配降下法を提案する。
• 二乗測定値 $ y_j = (\bm{a}_j^T\bm{x})^2 + \epsilon_j $ に対する $ \ell_2 $-損失を用いた非凸な経験的リスク最小化フレームワークを採用する。
• 各反復でスパースネスを維持し、高次元設定における推定精度を向上させるためにしきい値処理を適用する。
• サブ指数的ノイズのための集中不等式を用いて推定誤差を制御し、安定性を保証する。
• ランダム行列理論を活用して経験的リスクのヘッセ行列を分析し、真の信号の近傍での局所収束を保証する。
• スパース位相再構成の最先端結果と一致する、$ m \geq C(\delta)k\log k $ の標本サイズ要件を導出する。

実験結果

リサーチクエスチョン

• RQ1 サブ指数的ノイズ下におけるノイズありスパース位相再構成の最小最大最適収束速度は何か？
• RQ2 計算的に実行可能なアルゴリズムが、さまざまなスパースネスレベルでこの最適レートを達成できるか？
• RQ3 信号 $ \bm{x} $ のスパースネスが、サブ指数的ノイズ下での推定誤差にどのように影響するか？
• RQ4 測定ベクトルが i.i.d. 標準ガウス分布に従うとき、最適再構成を保証するのに十分な標本サイズは何か？
• RQ5 しきい値付きウィーリングャー・フローは、スパースでノイズありの設定において、標準のウィーリングャー・フローを上回る性能を示すか？

主な発見

• $ \ell_2 $-推定誤差の最小最大最適収束速度は $ \sigma / \|\bm{x}\|_2 \sqrt{k\log p / m} $ であり、ここで $ k $ はスパースネス、$ \sigma $ はノイズレベル、$ m $ は標本サイズである。
• 提案されたしきい値付きウィーリングャー・フローは、$ m \geq C(\delta)k\log k $ のもとで、高確率でこの最適レートを達成する。これは、スパース位相再構成分野における最高水準の標本複雑度と一致する。
• アルゴリズムはレート最適かつ計算効率的であり、スパースネス制約付きの非凸経験的リスク最小化の非効率性を回避する。
• 理論的分析により、経験的リスクのヘッセ行列がスパースサポート上で単位行列に集中することが示され、局所収束が可能になる。
• サブ指数的ノイズは、ノイズ項の経験的平均に対する高確率バインドを用いて取り扱われ、ロバストネスが保証される。
• $ k $ の事前知識がなくてもスパースネスレベルに適応可能であり、実世界の応用において実用的である。