[論文レビュー] Approximate Message Passing for Amplitude Based Optimization

Junjie Ma, Ji Xu+1 more|arXiv (Cornell University)|Jun 8, 2018

Sparse and Compressive Sensing Techniques参考文献 27被引用数 7

ひとこと要約

本稿では、ノイズのある位相なし測定から複雑な信号を回復するために、$\delta$-正則化非凸最適化を活用した振幅ベース最適化のための近似メッセージパッシングアルゴリズム（AMP.A）を提案する。漸近的状態 $m,n\to\infty$, $m/n\to\delta$ において、AMP.Aはわずか $\delta \approx 2.5n$ 測定で正確な回復を達成し、ノイズおよび初期化に対して頑健である。状態遷移解析により鋭い性能境界が導出された。

ABSTRACT

We consider an $\ell_2$-regularized non-convex optimization problem for recovering signals from their noisy phaseless observations. We design and study the performance of a message passing algorithm that aims to solve this optimization problem. We consider the asymptotic setting $m,n ightarrow \infty$, $m/n ightarrow δ$ and obtain sharp performance bounds, where $m$ is the number of measurements and $n$ is the signal dimension. We show that for complex signals the algorithm can perform accurate recovery with only $m=\left ( \frac{64}{π^2}-4 ight)n\approx 2.5n$ measurements. Also, we provide sharp analysis on the sensitivity of the algorithm to noise. We highlight the following facts about our message passing algorithm: (i) Adding $\ell_2$ regularization to the non-convex loss function can be beneficial even in the noiseless setting; (ii) spectral initialization has marginal impact on the performance of the algorithm.

研究の動機と目的

• 非凸振幅ベース位相再構成問題を解く計算的に効率的なメッセージパッシングアルゴリズムの開発。
• 漸近的解析を用いて、ノイズなしおよびノイズあり設定下でのアルゴリズムの鋭い理論的性能境界の提供。
• $\delta$-正則化およびスペクトル初期化の回復性能への影響の調査。
• さまざまな信号および初期化条件の下で、AMP.AをTWF、TAF、IRWFといった最先端アルゴリズムと実験的に比較。
• 特に分離スペクトル初期化の文脈において、AMP.Aのための厳密な状態遷移フレームワークの確立。

提案手法

• アルゴリズムは、近似メッセージパッシング（AMP）の原則に従い、非凸最適化問題 $\min_{\bm{x}} \sum_{a=1}^m (y_a - |(\bm{Ax})_a|)^2 + \frac{\mu}{2}\|\bm{x}\|_2^2$ を解く。
• 状態遷移方程式が導出され、$m,n\to\infty$, $m/n\to\delta$ の漸近的極限におけるAMP.A反復の平均二乗誤差（MSE）を特徴づける。
• アルゴリズムは、最終的な性能にほとんど影響を与えないが、頑健であることが示された分離スペクトル初期化戦略を組み込む。
• 理論的解析には、正確な回復に必要な最小測定数に関する鋭い境界が含まれ、複素信号の場合 $\delta_{\mathrm{AMP}} \approx 2.48$ となる。
• シミュレーションにより、AMP.AをGS、TWF、TAF、IRWF、RAFと比較し、さまざまな信号モデルおよび初期化スキームで性能を検証。
• 実数値信号への拡張も行われ、状態遷移予測は $\delta \approx 1.4-1.5$ で実験的フェーズ遷移と一致した。

実験結果

リサーチクエスチョン

• RQ1 漸近的状態において、AMP.Aを用いた正確な信号回復に必要な最小の位相なし測定数は何か？
• RQ2 $\delta$-正則化は、ノイズなしおよびノイズあり設定下でどのように性能を向上させるか？
• RQ3 スペクトル初期化は、AMP.Aの収束性および精度にどの程度の影響を与えるか？
• RQ4 回復率および測定効率の観点から、AMP.Aは他の最先端位相再構成アルゴリズムと比べてどのように差をつけるか？
• RQ5 分離スペクトル初期化を伴うAMP.Aに対して、厳密な状態遷移フレームワークを確立できるか？

主な発見

• ノイズなし状態において、AMP.Aは複素信号の正確な回復を $\delta = \left(\frac{64}{\pi^2} - 4\right)n \approx 2.5n$ 測定で達成する。
• ノイズに対して頑健であることが実証され、状態遷移解析によりノイズ分散の正確な依存関係を捉えた鋭い性能境界が導出された。
• スペクトル初期化は性能にほとんど影響を与えない。AMP.Aは $\bm{x}^0 = \mathbf{1}$ のような悪い初期推定値に対しても信頼性高く収束する。
• シミュレーションでは、AMP.Aはさまざまな信号モデルにおいてTWF、TAF、IRWF、RAFを上回り、特に理論的収束閾値 $\delta \approx 2.48$ 付近で顕著な優位性を示した。
• 実数値信号の場合、AMP.Aは $\delta = 1.4$ から $\delta = 1.5$ の間でフェーズ遷移を示し、理論的予測 $\delta_{\mathrm{AMP}} = \frac{\pi^2}{4} - 1$ と一致した。
• 信号分布が完全に分かっている場合、ベイジアンGAMPは競合的性能を示すが、実用的状況ではそのような知識が得られないため、AMP.Aが優位に立った。