[論文レビュー] ADMM-MCP Framework for Sparse Recovery with Global Convergence

Hao Wang, Zhang-Lei Shi+2 more|arXiv (Cornell University)|May 2, 2018

Sparse and Compressive Sensing Techniques参考文献 23被引用数 3

ひとこと要約

本稿は、交替方向乗数法（ADMM）と修正逐次ハードスレッショング（IHT）方式を組み合わせ、非凸なミニマックス凹み罰根（MCP）を用いることで、局所的最適解に陥ることのないグローバル収束を達成するADMM-MCPフレームワークを、圧縮センシングにおけるスパース信号回復に提案する。この手法は、緩い仮定のもとでグローバル最適解に収束し、測定回数を減らしながらも、最先端のアルゴリズムを上回る再構成精度を達成する。

ABSTRACT

In compressed sensing, the l0-norm minimization of sparse signal reconstruction is NP-hard. Recent work shows that compared with the best convex relaxation (l1-norm), nonconvex penalties can better approximate the l0-norm and can reconstruct the signal based on fewer observations. In this paper, the original problem is relaxed by using minimax concave penalty (MCP). Then alternating direction method of multipliers (ADMM) and modified iterative hard thresholding method are used to solve the problem. Under certain reasonable assumptions, the global convergence of the proposed method is proved. The parameter setting is also discussed. Finally, through simulations and comparisons with several state-of-the-art algorithms, the effectiveness of proposed method is confirmed.

研究の動機と目的

• スパース信号回復における$l_0$-ノルム最小化のNP困難性に対処するため、スパース性をよりよく近似する非凸なペナルティに置き換えること。
• $l_1$-ノルム緩和の限界を克服するため、正確な再構成に必要な測定回数が多く、厳密な条件を課す必要があること。
• 既存の逐次ハードスレッショング手法とは異なり、初期値に依存しないグローバル収束性を有するアルゴリズムを開発すること。
• ADMM（分解と収束性の強み）とMCP（不偏で非凸なスパース性促進）の長所を統合した統一フレームワークを構築すること。
• 正則化パラメータ$\lambda$の理論的裏付けのあるパrameter選択戦略を提供すること。

提案手法

• 元の$l_0$-ノルム最小化問題は、スパース性の非凸的で連続的な近似を提供するミニマックス凹み罰根（MCP）を用いて緩和される。
• ADMMフレームワークが、増大ラグランジュ関数における双対勾配上昇を用いて、反復的に解くことのできる部分問題に問題を分解する。
• 各反復でスパース性を強制するために、修正された逐次ハードスレッショング（IHT）ステップがADMMスキームに統合される。このステップでは、最大の$\tau$個の成分のみを保持する。
• アルゴリズムは、主変数$\boldsymbol{x}$、双対変数$\boldsymbol{u}$、補助変数$\boldsymbol{w}$の更新を交互に繰り返し、緩い仮定のもとで収束を保証する。
• データ適合性とスパース性のバランスをとるために、罰根パラメータ$\lambda$のラインサーチ戦略を組み込み、2つのパrameter選択ルールを分析した。

実験結果

リサーチクエスチョン

• RQ1 MCPのような非凸ペナルティをADMMと効果的に組み合わせることで、スパース回復においてグローバル収束を達成できるか？
• RQ2 提案されたADMM-MCPフレームワークは、凸な$l_1$ベースの手法や他の非凸ソルバーと比較して、再構成精度と測定効率の両面で優れているか？
• RQ3 ADMM内に組み込まれた修正IHTステップは、MCPペナルティの非凸性にもかかわらず、グローバル収束を保証できるか？
• RQ4 性能は正則化パラメータ$\lambda$の選択にどれほど敏感であり、自動選択戦略は有効であるか？
• RQ5 ノイズレベルやスパースレベルが変化する条件下で、アルゴリズムの収束特性はどのように変化するか？

主な発見

• 提案されたADMM-MCP法は、緩い仮定のもとでグローバル収束を達成し、慎重な初期化の必要がなくなる。
• シミュレーション（$N=512$および$N=4096$）により、同様の正確な再構成確率を達成するための測定回数が、$l_1$ベースの手法よりも著しく少ないことが示された。
• 最初のパラメータ選択法を用いることで、ノイズが高い状況下でもSPGL1、FOCUSS、その他の非凸ソルバーを上回る近似的に最適な性能を達成した。
• 2番目のパラメータ選択法は最初の方法ほど正確ではなかったが、多数の競合アルゴリズムを上回る性能を示し、自動チューニングを可能にした。
• 低SNR（$\sigma = 0.01$）条件下でも100～150反復以内に収束し、ロバスト性と効率性を示した。
• 初期値$\boldsymbol{x}^0 = \mathbf{0}$、$\boldsymbol{u}^0 = \mathbf{0}$、$\boldsymbol{w}^0 = \mathbf{0}$からでも正常に復元が成功したため、初期値に強く依存しないことが実証された。