[論文レビュー] Signal Recovery in Unions of Subspaces with Applications to Compressive Imaging

Nikhil Rao, Robert D. Nowak+1 more|arXiv (Cornell University)|Sep 14, 2012

Sparse and Compressive Sensing Techniques参考文献 44被引用数 12

ひとこと要約

本稿では、構造的スパarsityを活用して測定数を削減することで、部分空間の和集合における正確な信号復元のための凸最適化フレームワークを提案する。測定数の上限を、部分空間の数とそれらの相対的配置にのみ依存する普遍的な境界として導出しており、画像圧縮や遺伝学的応用分野において、従来の圧縮センシング手法に比べて優れた復元性能を示している。グループリッジ回帰とラテングループリッジ回帰の定式化を用いる。

ABSTRACT

In applications ranging from communications to genetics, signals can be modeled as lying in a union of subspaces. Under this model, signal coefficients that lie in certain subspaces are active or inactive together. The potential subspaces are known in advance, but the particular set of subspaces that are active (i.e., in the signal support) must be learned from measurements. We show that exploiting knowledge of subspaces can further reduce the number of measurements required for exact signal recovery, and derive universal bounds for the number of measurements needed. The bound is universal in the sense that it only depends on the number of subspaces under consideration, and their orientation relative to each other. The particulars of the subspaces (e.g., compositions, dimensions, extents, overlaps, etc.) does not affect the results we obtain. In the process, we derive sample complexity bounds for the special case of the group lasso with overlapping groups (the latent group lasso), which is used in a variety of applications. Finally, we also show that wavelet transform coefficients of images can be modeled as lying in groups, and hence can be efficiently recovered using group lasso methods.

研究の動機と目的

• スパarsityパターンが既知の部分空間の和集合に位置する高次元信号を、少数の測定値から正確に復元する課題に対処すること。
• 標準的なスパarsityを超えて、構造的スパarsityを活用することで、正確な信号復元に必要な測定数を削減すること。
• 部分空間の数とその幾何的配置にのみ依存する普遍的な測定数の上限を導出すること。具体的には、部分空間の具体的な構成や次元には依存しない。
• 重複するグループを含むラテングループリッジ回帰（overlapping groups）の構造的スパarsityを分析し、理論的な復元保証を提供すること。
• ウェーブレット変換された画像における係数が自然にグループ構造を形成することを踏まえ、実世界の問題、特に画像圧縮への適用可能性を示すこと。

提案手法

• グループリッジ回帰とラテングループリッジ回帰を用いて、重複するグループスパarsityを考慮した凸最適化問題として信号復元を定式化する。
• 制限された最小特異値（RMSV）を主要な分析ツールとして用い、これは制限された等長性条件よりも弱く、構造的スパarsityに適している。
• 独立同分布のガウス測定値を仮定した場合の正確な復元における測定数の上限を導出し、測定数が部分空間の数とその幾何的配置に比例して増加することを示す。
• 測度集中とガウス尾部確率の境界を用いて、特にラテングループリッジ回帰の場合に、測定演算子が部分空間上でどのように振る舞うかを制御する。
• 双対性と特異値分解（SVD）を用いて、復元演算子のノルムを評価し、復元条件を確立する。
• 復元誤差が、活性化された部分空間の数と部分空間基底行列の条件数に依存する項によって有界であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 信号が既知の部分空間の和集合に位置する場合、正確な信号復元に必要な測定数をどのように削減できるか？
• RQ2 重複するグループを持つラテングループリッジ回帰設定における理論的測定数の上限は何か？
• RQ3 部分空間の幾何的配置（例えば、それらの間の角度）は、必要な測定数にどのように影響するか？
• RQ4 グループリッジ回帰のような凸最適化手法は、スパarsityパターンが部分空間の和集合にある場合に正確な復元を達成できるか？
• RQ5 ウェーブレット変換された画像におけるスパarsityモデルのような構造的スパarsityモデルは、画像圧縮性能をどの程度向上できるか？

主な発見

• 正確な復元に必要な測定数は、$\mathcal{O}(kB + B\log L)$ に比例する。ここで $k$ は活性化された部分空間の数、$B$ は任意の部分空間の最大次元、$L$ は部分空間の総数である。
• 測定数の上限は普遍的である：部分空間の数とそれらの相互的配置にのみ依存し、具体的な次元、構成、重複度には依存しない。
• ラテングループリッジ回帰において、非漸近的測定数の上限を導出し、特に重複するグループの領域において、先行研究を上回る性能を示した。
• 画像のウェーブレット係数は、部分空間の和集合に位置すると効果的にモデル化可能であり、これによりグループリッジ回帰法による効率的な復元が可能になる。
• 導出された境界は、小さな定数ペナルティを伴う任意のサガウシアン測定行列に対して成り立つため、ガウス行列に限らない。
• 制限された最小特異値条件が正確な復元に十分であることが示され、本分析はさまざまな構造的スパarsityモデルに適用可能なフレームワークを提供する。