[論文レビュー] Compressed Sensing with Nonlinear Observations and Related Nonlinear Optimisation Problems

Thomas Blumensath|arXiv (Cornell University)|May 8, 2012

Sparse and Compressive Sensing Techniques参考文献 9被引用数 14

ひとこと要約

本稿は、非線形観測モデルへの圧縮センシングの拡張を示しており、非線形写像のヤコビ行列が制限等長性性質（RIP）を満たす限り、反復的ハードスレッディング（IHT）アルゴリズムがスパースまたは構造的信号を少数の非線形測定値から回復できることを示している。主な貢献は、線形圧縮センシングフレームワークと類似した条件下で理論的回復保証を確立し、線形ケースと同等の誤差バウンドを得ることにある。

ABSTRACT

Non-convex constraints have recently proven a valuable tool in many optimisation problems. In particular sparsity constraints have had a significant impact on sampling theory, where they are used in Compressed Sensing and allow structured signals to be sampled far below the rate traditionally prescribed. Nearly all of the theory developed for Compressed Sensing signal recovery assumes that samples are taken using linear measurements. In this paper we instead address the Compressed Sensing recovery problem in a setting where the observations are non-linear. We show that, under conditions similar to those required in the linear setting, the Iterative Hard Thresholding algorithm can be used to accurately recover sparse or structured signals from few non-linear observations. Similar ideas can also be developed in a more general non-linear optimisation framework. In the second part of this paper we therefore present related result that show how this can be done under sparsity and union of subspaces constraints, whenever a generalisation of the Restricted Isometry Property traditionally imposed on the Compressed Sensing system holds.

研究の動機と目的

• 線形観測モデルから非線形観測モデルへの圧縮センシング理論の一般化を目的とする。
• 観測が非線形である場合に、反復的ハードスレッディングが信号回復に使用可能かどうかを調査すること。
• スパースまたは構造的信号の安定的かつ正確な回復を保証する十分条件を確立すること、具体的にはΦ(x)のヤコビ行列における制限等長性性質（RIP）を目的とする。
• スパース信号や構造的信号の非線形測定値からの回復を、部分空間の和のような構造的制約を持つ一般非凸最適化問題に拡張すること。
• 非線形設定におけるIHTの理論的性能を分析し、凸緩和法やグリーディ法と比較すること。

提案手法

• 観測が非線形写像によって生成される非線形圧縮センシングモデルを提案する：y = Φ(x) + e、ここでΦは非線形である。
• 推定値を勾配に類似したステップで繰り返し更新し、スパarsityまたは構造を維持するためにハードスレッディングを適用することで、非線形設定における反復的ハードスレッディング（IHT）アルゴリズムを適応化する。
• Φ(x)のヤコビ行列に制限等長性性質（RIP）を導入し、ヤコビ行列がスパースベクトルのノルムを有界な歪みの範囲で保存することを要件とする。
• ヤコビ行列-RIP条件の下で、非線形設定におけるIHTの回復誤差バウンドを確立し、誤差が信号の最良k項近似誤差とノイズレベルに比例することを示す。
• 信号が複数の線形部分空間のいずれかにあると仮定する、部分空間の和のような一般非凸制約へとフレームワークを一般化する。
• 一般非線形最適化における収束のための代替条件として、制限厳密凸性（Restricted Strict Convexity）を分析するが、Φがアフィンでない限りヒルベルト空間では成立しないことから、一般非線形圧縮センシングには適用範囲が限定的であることを示す。

実験結果

リサーチクエスチョン

• RQ1 反復的ハードスレッディングアルゴリズムは、圧縮センシングにおける非線形測定値から信号を効果的に回復できるか？
• RQ2 非線形測定写像Φ(x)にどのような条件下で、スパースまたは構造的信号の安定的かつ正確な回復が保証されるか？
• RQ3 Φ(x)のヤコビ行列に制限等長性性質（RIP）が成立すれば、線形圧縮センシングの場合と同等の回復性能が得られるか？
• RQ4 非線形圧縮センシングの理論は、構造的制約の下での一般非凸最適化とどのように関係しているか？
• RQ5 制限厳密凸性は、非線形最適化における収束性と正確性を保証するための、ヤコビ行列-RIPの代替として有効な条件か？

主な発見

• 反復的ハードスレッディングアルゴリズムは、測定写像のヤコビ行列が制限等長性性質（RIP）を満たす限り、非線形観測からのスパースまたは構造的信号の回復が可能である。
• 回復誤差は、信号の最良k項近似誤差とノイズレベルに比例する項によってバウンドされ、定数は等長性定数δにのみ依存する。
• ヤコビ行列-RIP条件は、非線形圧縮センシングにおける安定的回復の十分条件であることが示され、線形ケースと類似した性質を持つ。
• 制限厳密凸性は、一般非凸最適化における収束を保証するには十分であるが、Φが部分空間上でアフィンでない限りヒルベルト空間では成立しないため、一般非線形圧縮センシングへの一般応用は限定的である。
• フレームワークはスパarsityを越えて部分空間の和へと一般化され、低ランク行列や構造的スパarsityを含むモデルをカバーする。
• 理論的結果は、ヤコビ行列-RIP条件が満たされている限り、非線形設定でもIHTアルゴリズムが線形ケースと同等の誤差バウンドを維持することから、裏付けられている。