[論文レビュー] Global convergence of the subgradient method for robust signal recovery

Zesheng Cai, Lexiao Lai+1 more|arXiv (Cornell University)|Jan 15, 2026

Sparse and Compressive Sensing Techniques被引用数 0

ひとこと要約

要約を直接的に一文二文で: 本論文は、境界付き連続時間サブグラデイントラジェクトリを仮定したファクター化されたロバスト回復問題（ロバストPCA、ロバスト位相回収、ロバストマトリックス感知）に対するサブグラデイント法のグローバル収束フレームワークを開発し、小さなステップサイズの下で秩一位対称ロバストPCAにおけるほぼ全域でのグローバル収束を示す。

ABSTRACT

We study the subgradient method for factorized robust signal recovery problems, including robust PCA, robust phase retrieval, and robust matrix sensing. The resulting objectives are nonsmooth and nonconvex, and can have unbounded sublevel sets, so standard analyses based on descent and coercivity do not apply. For locally Lipschitz semialgebraic objectives, we develop a convergence framework that replaces these requirements with a boundedness condition on continuous-time subgradient trajectories. Under this condition and sufficiently small step sizes of order $1/k$, we show that iterates of the subgradient method remain bounded and the full sequence converges to a critical point. We then verify the required boundedness property for the three robust objectives by adapting existing trajectory analyses, assuming a mild nondegeneracy condition in the matrix sensing case. Finally, for rank-one symmetric robust PCA, we prove that for almost every initialization, the method cannot converge to spurious critical points; consequently, under the same step-size regime, it converges to a global minimum.

研究の動機と目的

• ファクター化されたロバスト回復目的関数（ロバストPCA、ロバスト位相回収、ロバストマトリックス感知を含む）に対するサブグラデイント法のグローバル収束の検討。
• 有界な連続時間サブグラデイント軌道仮定の下で、局所リプシッツ性半代数的目的関数の収束フレームワークを開発。
• kに反比例するステップサイズで、初期化が有界集合にあるサブグラデイント列は有界であり、臨界点へ収束することを示す。
• 行列感知における mild な非退化条件を用いた三つのロバスト目的に対して、軌道解析により有界軌道仮定を検証。
• 秩1対称ロバストPCAに対して、データベクトルの零成分を含まない場合、ほぼ全ての初期化は小さなステップサイズ下でグローバル最小点へ収束し、偽の臨界点を回避することを示す。

提案手法

• ロバスト回復問題を、ロバスト性を促進するL1ノルム（ell1損失）を用いた非滑らか・非凸・ファクター化目的でモデル化。
• クラフ subdifferential 計算を採用し、サブグラデイント更新を定義。
• 有限時間連続軌道仮定（仮定2.6）を導入し、半代数構造を利用して軌道の長さ境界を得る。
• ステップサイズ α_k = α/(k+1) のもとでサブグラデイント列の直径界を証明する（定理2.8）。
• 全体のサブグラデイント列が臨界点へ収束することを導く（系 Corollary 2.9）。
• 秩1対称ロバストPCA について、偽の臨界点を回避しつつ、全ての非零データ成分を持つ場合にほぼ全ての初期化がグローバル最小へ収束することを示す（定理3.1）。

実験結果

リサーチクエスチョン

• RQ1 kに反比例するスケールのステップサイズの下で、因子分解されたロバスト回復目的のサブグラデイント列は任意の初期化から臨界点へ収束するか。
• RQ2 特に秩1対称ロバストPCAにおいて、偽の臨界点へ収束を回避する条件は何か。
• RQ3 有界連続時間サブグラデイント軌道が、拘束性や全球リプシッツ連続性を欠く場合でもグローバル収束を保証するか。
• RQ4 行列感知における非退化条件は軌道の有界性と収束にどのように影響するか。
• RQ5 秩1対称ロバストPCAのランドスケープはどうなっており、ほぼ全初期化がグローバル最小を保証するか。

主な発見

• 有界なサブグラデイント軌道の下で、局所リプシッツ性半代数的目的関数に対する一般的な収束フレームワークを開発。
• ステップサイズ α_k = α/(k+1) のとき、有界集合に初期化されたサブグラデイント列は直径が一様有界である（定理2.8）。
• 十分に小さな α のとき、全サブグラデイント列が臨界点へ収束する（系 Corollary 2.9）。
• ロバストPCA、ロバスト位相回収、ロバストマトリックス感知の目的は有界軌道条件を満たし、収束フレームワークを妥当化する（命題2.3–2.5）。
• 零成分をデータベクトルに含まない秩1対称ロバストPCA では、ほぼ全初期化が小さなステップサイズ下で偽の臨界点を回避してグローバル最小へ収束する（定理3.1と系3.3の補題）。