[論文レビュー] Rapid, Robust, and Reliable Blind Deconvolution via Nonconvex Optimization

Xiaodong Li, Shuyang Ling+2 more|arXiv (Cornell University)|Jun 15, 2016

Sparse and Compressive Sensing Techniques参考文献 35被引用数 57

ひとこと要約

本稿は、部分空間制約下で、信号 $$\bm{f}$$ と $$\bm{g}$$ をその畳み込み $$\bm{y} = \bm{f} \ast \bm{g}$$ から、非凸正則化勾配降下法を用いて、保証付きで回復する手法を提案する。この手法は、ほぼ最小のサンプル複雑度で幾何的収束を示し、ノイズに対して頑健である。これは、厳密な回復保証、数値的効率性、ノイズ耐性を同時に満たす最初のアルゴリズムである。

ABSTRACT

We study the question of reconstructing two signals $f$ and $g$ from their convolution $y = f\ast g$. This problem, known as {\em blind deconvolution}, pervades many areas of science and technology, including astronomy, medical imaging, optics, and wireless communications. A key challenge of this intricate non-convex optimization problem is that it might exhibit many local minima. We present an efficient numerical algorithm that is guaranteed to recover the exact solution, when the number of measurements is (up to log-factors) slightly larger than the information-theoretical minimum, and under reasonable conditions on $f$ and $g$. The proposed regularized gradient descent algorithm converges at a geometric rate and is provably robust in the presence of noise. To the best of our knowledge, our algorithm is the first blind deconvolution algorithm that is numerically efficient, robust against noise, and comes with rigorous recovery guarantees under certain subspace conditions. Moreover, numerical experiments do not only provide empirical verification of our theory, but they also demonstrate that our method yields excellent performance even in situations beyond our theoretical framework.

研究の動機と目的

• 部分空間仮定の下で、数値的に効率的で、頑健かつ保証付き収束する盲deconvolution用のアルゴリズムを開発すること。
• 情報理論的最小値に近い測定数で回復を達成すること。
• 強力な理論的保証があるものの、計算コストが高いため、凸緩和法の限界を克服すること。
• 盲deconvolutionにおける非凸最適化フレームワークに対して、収束性とノイズ耐性の厳密な保証を確立すること。
• 理論的仮定を越えた状況でも、理論的・実用的両面で既存手法を上回ることを示すこと。

提案手法

• アルゴリズムは、持ち上げられた行列回復フレームワークを用いて定式化された非凸最適化問題に対する正則化勾配降下法を用いる。
• 2段階戦略を採用する：優れた初期推定値の構築と、勾配降下による幾何的収束。
• 最適化の安定化と誤った局所最適解の回避のため、正則化項を組み込む。
• 理論的分析には、局所的正則性条件と勾配のリプシッツ連続性を用い、複素数値信号に適応した形で適用する。
• 作用素ノルムのバインドと耐性を保証するために、集中不等式とランダム行列理論（例：定理6.2）を用いる。
• 複素数値信号を処理できるように設計されており、ウィルティンガー微分フレームワークを用いて複素共役勾配を用いる。

実験結果

リサーチクエスチョン

• RQ1 非凸最適化アプローチは、情報理論的最小値に近いサンプル複雑度で、盲deconvolutionにおける保証付き回復を達成できるか？
• RQ2 ノイズに対して頑健で、幾何的収束を示す数値的に効率的な盲deconvolution用アルゴリズムを設計できるか？
• RQ3 サンプル複雑度と計算コストの観点から、提案手法の非凸法は凸緩和法と比べてどのように性能を発揮するか？
• RQ4 信号部分空間にどのような条件を課すと、非凸問題が一意のグローバル解を持ち、誤った局所最適解を避けることができるか？
• RQ5 有限サンプル条件下でも、データにノイズが加わった場合に、アルゴリズムが収束性と耐性を維持できるか？

主な発見

• 提案手法は、やや弱い部分空間仮定の下で、測定数が情報理論的最小値にわずかに大きい条件下でも、真の解への幾何的収束を達成する。
• ノイズに対して頑健であり、ノイズレベルに比例した適切なスケーリングを持つ誤差バウンドの理論的保証がある。
• 必要な測定数はほぼ最適であり、理論的最小値から対数因子の差異しかなく、近似に近い。
• 数値実験により、理論的仮定を越えた状況でもアルゴリズムが良好に動作することが確認され、強い実騴的頑健性を示唆する。
• 本手法は、盲deconvolutionにおいて、数値的効率性、ノイズ耐性、厳密な回復保証を同時に達成する最初のアルゴリズムである。
• 理論的分析により、勾配降下の経路が真の解の近傍に留まり、局所的正則性と滑らかさの条件下で収束が保証されることが示された。