[論文レビュー] Median-Truncated Nonconvex Approach for Phase Retrieval with Outliers

Huishuai Zhang, Yuejie Chi+1 more|arXiv (Cornell University)|Mar 11, 2016

Advanced X-ray Imaging Techniques被引用数 3

ひとこと要約

本稿では、敵対的外れ値が存在する状況下でも頑健な位相再構成を実現するため、中央値を用いた非凸アルゴリズム—median-TWF および median-RWF—を提案する。初期化段階および勾配降下法の過程で、測定値の標本中央値を用いて汚染された測定値を同定・除外することで、任意に破損した測定値が一定割合まで存在する状況でも、近似的に最適な測定数の下で信号の決定的再構成が可能となり、線形収束性および密度ノイズが存在する状況下でも安定性を示す。

ABSTRACT

This paper investigates the phase retrieval problem, which aims to recover a signal from the magnitudes of its linear measurements. We develop statistically and computationally efficient algorithms for the situation when the measurements are corrupted by sparse outliers that can take arbitrary values. We propose a novel approach to robustify the gradient descent algorithm by using the sample median as a guide for pruning spurious samples in initialization and local search. Adopting the Poisson loss and the reshaped quadratic loss respectively, we obtain two algorithms termed median-TWF and median-RWF, both of which provably recover the signal from a near-optimal number of measurements when the measurement vectors are composed of i.i.d. Gaussian entries, up to a logarithmic factor, even when a constant fraction of the measurements are adversarially corrupted. We further show that both algorithms are stable in the presence of additional dense bounded noise. Our analysis is accomplished by developing non-trivial concentration results of median-related quantities, which may be of independent interest. We provide numerical experiments to demonstrate the effectiveness of our approach.

研究の動機と目的

• スパースかつ任意に大きな外れ値に対して頑健な統計的・計算的に効率的な位相再構成アルゴリズムの開発。
• 従来のWirtingerフロー型手法の限界を解消すること。これらはクリーンな状況下では優れた性能を示すが、敵対的外れ値の存在下では失敗する。
• 測定ベクトルがi.i.d.ガウス分布に従う場合、測定数が対数要因を除いて近似的に最適な数にまで減らせる信号の決定的再構成を達成すること。
• 追加の密度ノイズが存在する状況下でも安定性を確保し、現実のノイズ環境への適用可能性を拡張すること。
• 中央値関連統計量のための新規濃縮不等式を用いて理論的保証を確立すること。

提案手法

• 初期化段階および局所探索の過程で、測定値の大きさの標本中央値を用いて誤検出された外れ値を同定・除外するための頑健なガイドとして用いる。
• Truncated Wirtinger Flow (TWF) および Reshaped Wirtinger Flow (RWF) フレームワークを、中央値に基づくトリunkationを組み込むことで、より頑健な手法に拡張する。
• 2つのバージョンとして、median-TWF と median-RWF をそれぞれポisson損失および再形状化された2次損失関数を用いる。
• 中央値から著しく逸脱する大きさを持つ測定値を除外するための中央値ベースのしきい値処理ルールを適用する。
• 高次元解析における中央値関連量の濃縮を制御するため、指示関数のリプシッツ近似を用いる。
• 単位球面上での一様収束バウンドを、$5$-ネットとサブガウス分布の尾部不等式を用いて確立し、高確率保証を可能にする。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースの位相再構成手法は、その位置や大きさを事前に知らなくても、任意の値をとる敵対的外れ値に対して頑健に動作させることができるか？
• RQ2 一定割合の測定値が破損している状況下でも、測定数が$n$のオーダーで近似的に最適な測定数を達成できるか？
• RQ3 標本中央値をプルーニングのメカニズムとして用いることで、TWF や RWF といった標準的な非凸ソルバーと比較して収束性および安定性が向上するか？
• RQ4 追加の密度ノイズが存在する状況下でも、提案手法は線形収束速度と安定性を維持できるか？
• RQ5 中央値に基づく統計量のための新規濃縮不等式は、非i.i.d.な高次元設定において理論的保証を支えるのに十分か？

主な発見

• 測定ベクトルがi.i.d.ガウス分布に従う場合、median-TWF および median-RWF は、測定数$m = \mathcal{O}(n \log n)$の下で、任意に破損した測定値が一定割合まで存在する状況下でも真の信号を決定的に再構成可能である。
• 両手法とも線形収束速度を達成し、$\epsilon$-精度に到達するには$\mathcal{O}(mn\log(1/\epsilon))$回の浮動小数点演算が必要である。
• 追加の密度ノイズが存在する状況下でも安定性を示し、ノイズの多い環境下でも頑健な性能を維持する。
• 理論的分析は、中央値関連量のための新規濃縮結果に依拠しており、これは位相再構成の分野を超えて独立に興味深い可能性を有する。
• 数値実験により、中央値トリункーション戦略が外れ値の影響を抑制し、ベースライン手法と比較して回復精度を向上させることの有効性が示された。