[論文レビュー] Recipes for stable linear embeddings from Hilbert spaces to R^m

Gilles Puy, Mike E. Davies+1 more|Edinburgh Research Explorer|Sep 23, 2015

Sparse and Compressive Sensing Techniques参考文献 25被引用数 6

ひとこと要約

この論文は、任意の低次元信号モデル上で制限等長性性質（RIP）を満たす、無限次元ヒルバート空間から R^m への安定な線形埋め込みを構築する一般枠組みを提示する。ランダム行列理論とボックスカウント次元を用いて内在的複雑性を測定することで、RIPの確率的保証を導出し、圧縮センシング、アナログサンプリング、機械学習スケッチなどの設定において、圧縮測定からの信号の安定回復を可能にする。

ABSTRACT

We consider the problem of constructing a linear map from a Hilbert space $\mathcal{H}$ (possibly infinite dimensional) to $\mathbb{R}^m$ that satisfies a restricted isometry property (RIP) on an arbitrary signal model $\mathcal{S} \subset \mathcal{H}$. We present a generic framework that handles a large class of low-dimensional subsets but also unstructured and structured linear maps. We provide a simple recipe to prove that a random linear map satisfies a general RIP on $\mathcal{S}$ with high probability. We also describe a generic technique to construct linear maps that satisfy the RIP. Finally, we detail how to use our results in several examples, which allow us to recover and extend many known compressive sampling results.

研究の動機と目的

• 有限次元から無限次元ヒルバート空間への制限等長性性質（RIP）の拡張により、安定な信号回復を実現すること。
• 構造的・非構造的な設計を含め、任意の低次元信号集合に対してRIPを満たす線形写像を構築する汎用的レシピを提供すること。
• 信号モデルの内在次元に基づいて、安定埋め込みに必要な測定数 m の特定を幾何学的・確率的枠組みで統一・拡張することにより、既存の圧縮サンプリング結果を統合すること。
• アナログおよび無限次元信号処理の文脈（例：CS-MRI や確率的分布スケッチ）における安定埋め込みの理論的保証を確立すること。
• 正規化セカント集合の役割を形式化し、埋め込みの安定性を決定づける要因とし、幾何学的・確率的複雑性の測度と結びつけること。

提案手法

• 安定埋め込みの分析のための主要対象として、正規化セカント集合 S(Σ) = { (x1 - x2)/||x1 - x2||_2 | x1, x2 ∈ Σ, x1 ≠ x2 } を定義する。
• ボックスカウント次元を用いて、正規化セカント集合の内在次元を定量化し、無限次元ヒルバート空間における解析を可能にする。
• ランダム線形写像 A に対して、||Ax||_2^2 と ||x||_2^2 の乖離に関する一般確率的バウンドを確立し、S(Σ) のボックスカウント次元に比例して m が増加する場合に、RIP が高確率で成立することを示す。
• 等方的サブ指数的確率ベクトルを含む二次形式のモーメントバウンドを、ホルダーの不等式とサブ指数ノルムの制御を用いて導出する。
• i.i.d. サブガウス型成分を有するランダム行列（例：正規分布）が、S(Σ) 上で高確率でRIPを満たすことを証明する。このとき、m は集合のボックスカウント次元に比例する必要がある。
• 被覆数とメトリックエントロピーに基づく一般的手法を用いて、構造的信号モデルに対してRIPを満たす決定的線形写像を構築する。

実験結果

リサーチクエスチョン

• RQ1 任意の低次元信号モデルに対して、制限等長性性質（RIP）を無限次元ヒルバート空間へどのように一般化できるか？
• RQ2 与えられた信号モデルに対して、無限次元空間で線形写像がRIPを高確率で満たすために必要な最小測定数 m は何か？
• RQ3 正規化セカント集合のボックスカウント次元は、安定埋め込みに必要な測定数にどのように関係するか？
• RQ4 多様な信号モデルに対してRIPを満たすランダムおよび構造的線形写像を構築する統一枠組みをどのように開発できるか？
• RQ5 環境空間が無限次元である場合、圧縮測定からの信号の安定回復に理論的保証はどのように得られるか？

主な発見

• i.i.d. サブガウス型成分を有するランダム線形写像は、測定数 m が正規化セカント集合のボックスカウント次元に比例する限り、任意の低次元信号モデルの正規化セカント集合上でRIPを高確率で満たす。
• 安定埋め込みに必要な測定数は、正規化セカント集合のボックスカウント次元に線形に比例し、内在的複雑性の明確な特徴付けが得られる。
• ヒルバート空間内に正規直交基底で表現された k スパース信号に対しては、必要な測定数は O(k log n) に比例する。これは、有限次元圧縮センシングの結果を拡張するものである。
• この枠組みは、低ランク行列やコンact多様体上に定義された信号に対する既知の圧縮センシング結果を統一的に回復・拡張し、一つの幾何学的・確率的枠組みで統合する。
• 被覆数とメトリックエントロピーを用いた決定的線形写像の構築が可能であり、ランダム行列設計の代替として非ランダムな選択肢を提供する。
• 正規化セカント集合は安定性の鍵となる：線形写像が信号集合 Σ を安定に埋め込むための必要十分条件は、正規化セカント集合 S(Σ) 上でRIPを満たすことである。