[論文レビュー] Solving systems of phaseless equations via Riemannian optimization with optimal sampling complexity

Jian‐Feng Cai, Ke Wei|arXiv (Cornell University)|Sep 8, 2018

Sparse and Compressive Sensing Techniques参考文献 34被引用数 14

ひとこと要約

本稿では、ランク1の正定値行列の低ランク構造を活用して、$|\bm{A}\bm{x}|^2 = \bm{y}$ の形の位相なし方程式系を解くために、切り捨てられたバージョンを備えたリーマン的勾配降下法を提案する。切り捨てられたバージョンは、線形作用素の制限付き良好条件性および弱相関性の性質を用いて、最適な測定数 $m \gtrsim n$ における正確な回復を達成し、理論的保証を確立する。

ABSTRACT

A Riemannian gradient descent algorithm and a truncated variant are presented to solve systems of phaseless equations $|Ax|^2=y$. The algorithms are developed by exploiting the inherent low rank structure of the problem based on the embedded manifold of rank-$1$ positive semidefinite matrices. Theoretical recovery guarantee has been established for the truncated variant, showing that the algorithm is able to achieve successful recovery when the number of equations is proportional to the number of unknowns. Two key ingredients in the analysis are the restricted well conditioned property and the restricted weak correlation property of the associated truncated linear operator. Empirical evaluations show that our algorithms are competitive with other state-of-the-art first order nonconvex approaches with provable guarantees.

研究の動機と目的

• 位相なし方程式系 $|\bm{A}\bm{x}|^2 = \bm{y}$ を解くための、収束を証明可能なリーマン的最適化フレームワークの構築。
• リーマン的勾配降下法における線形作用素の濃縮性の欠如という課題に対処するため、切り捨てられたバージョンを導入。
• 実数または複素数の両方の系において、最適な測定数 $m \gtrsim n$ の下で理論的回復保証を確立。
• ランク1の正定値行列の低ランク構造を有する位相再構成問題へのリーマン的手法の適用範囲を拡張。
• 大規模な位相再構成問題に対して、証明可能な性能を有する、競争力のある一次非凸アルゴリズムの提供。

提案手法

• 解空間をモデル化するために、ランク1の正定値行列の埋め込み多様体をアルゴリズムが活用する。
• 低ランクで正定値の行列の多様体上にリーマン的勾配降下法の枠組みを構築する。
• 線形作用素の濃縮性の欠如に対処するため、切り捨てられたバージョンが導入される。
• 大きな勾配を抑制し、外れ値の影響に対してロバスト性を確保するため、損失関数を切り捨てたものに使用する。
• 理論的分析は、切り捨てられた線形作用素の制限付き良好条件性および制限付き弱相関性に依存する。
• 収束の分析には、1つずつ除外する技法（leave-one-out）と行列濃縮不等式が用いられる。

実験結果

リサーチクエスチョン

• RQ1 リーマン的最適化は、低ランク構造を有する位相なし系に効果的に適用可能か？
• RQ2 切り捨てられたリーマン的勾配降下法は、最適な測定数で正確な回復を達成するか？
• RQ3 線形作用素の制限付き良好条件性および弱相関性が収束に与える影響は何か？
• RQ4 提案手法は、実際の応用において最先端の一次非凸ソルバーを上回るか、同等の性能を発揮するか？
• RQ5 ランク1の正定値行列の多様体上での位相再構成問題の幾何的構造はいかなるものか？

主な発見

• 測定数 $m \gtrsim n$ が得られる場合、切り捨てられたリーマン的勾配降下法は、$\bm{x}$ の正確な回復を高い確率で達成する。
• 制限付き良好条件性および制限付き弱相関性の性質を用いて、理論的回復保証が確立される。
• 実験的結果から、精度および収束速度の観点で、最先端の一次非凸手法と同等かそれ以上の性能を示す。
• 最適な測定数を達成し、位相再構成問題の理論的下界と一致する。
• 分析により、切り捨てられたバージョンが、線形作用素の濃縮性が悪い場合に通常のリーマン的勾配降下法が失敗するのを安定化することが明らかになった。
• このフレームワークは、ランク1の測定からの低ランク正定値行列回復問題へ自然に拡張可能である。