[論文レビュー] New Analysis of Manifold Embeddings and Signal Recovery from Compressive Measurements

Armin Eftekhari, Michael B. Wakin|arXiv (Cornell University)|Jun 20, 2013

Sparse and Compressive Sensing Techniques参考文献 50被引用数 4

ひとこと要約

本稿は、スパarsityの代わりに多様体モデルを用いて圧縮測定からの信号再構成を分析することにより、圧縮センシングを前進させる。ℓ₂における信号再構成およびパラメータ推定のための確率的および決定的インスタンス最適バウンドを確立し、低次元多様体がランダム射影下で正確に埋め込まれることを示し、確率的設定ではより強い保証が得られることを示している。これは、多様体モデルが圧縮信号処理において有効であることを裏付けている。

ABSTRACT

Compressive Sensing (CS) exploits the surprising fact that the information contained in a sparse signal can be preserved in a small number of compressive, often random linear measurements of that signal. Strong theoretical guarantees have been established concerning the embedding of a sparse signal family under a random measurement operator and on the accuracy to which sparse signals can be recovered from noisy compressive measurements. In this paper, we address similar questions in the context of a different modeling framework. Instead of sparse models, we focus on the broad class of manifold models, which can arise in both parametric and non-parametric signal families. Using tools from the theory of empirical processes, we improve upon previous results concerning the embedding of low-dimensional manifolds under random measurement operators. We also establish both deterministic and probabilistic instance-optimal bounds in $\ell_2$ for manifold-based signal recovery and parameter estimation from noisy compressive measurements. In line with analogous results for sparsity-based CS, we conclude that much stronger bounds are possible in the probabilistic setting. Our work supports the growing evidence that manifold-based models can be used with high accuracy in compressive signal processing.

研究の動機と目的

• パラメトリックおよびノンパラメトリック信号族に生じる一般の低次元多様体モデルへ、スパarsityを超えた圧縮センシング理論の拡張を図ること。
• 経験過程理論のツールを用いて、低次元多様体がランダム線形測定下にどのように埋め込まれるかという理論的理解を深めること。
• ノイズを含む圧縮測定からの信号再構成およびパラメータ推定の両方について、ℓ₂におけるインスタンス最適再構成バウンドを確立すること。
• 決定的および確率的再構成保証の相対的強さを比較し、同じ条件下で確率的バウンドが著しく強いことを示すこと。
• 実用的な圧縮信号処理応用における多様体ベースのモデルの使用を理論的に裏付けること。

提案手法

• M ≪ N であるランダム測定演算子 Φ ∈ ℝᴹˣᴺ の下でのK次元多様体の埋め込みを、経験過程理論を用いて分析する。
• 信号再構成における確率的インスタンス最適バウンドを導出し、再構成誤差が真の信号からの距離とノイズレベルに比例することを示す。
• 三角不等式と集中不等式を用いて、ノイズ付き測定下での真の信号 x とその推定値 x̂ 間の ℓ₂誤差をバウンドする。
• 真の信号とその最近接多様体点（x*）との距離とノイズレベルの間に条件を導入し、安定な再構成を保証する。
• 多様体距離 dₘ(·,·) を用いた幾何的議論により、ℓ₂誤差を内在的多様体距離に関連づけ、推定信号が局所的近傍内にあると仮定する。
• 複数の誤差バウンドを組み合わせ、(1−ε) の逆数を適用して、M/N、ε、およびノイズに明示的な依存関係を持つタイトな ℓ₂再構成誤差バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 低次元多様体はどのようにランダム線形測定下に埋め込まれるのか？ その埋め込みに対する理論的保証は何か？
• RQ2 スパース信号に知られているものと同様に、多様体ベースの信号モデルに対してインスタンス最適 ℓ₂再構成バウンドを確立できるか？
• RQ3 多様体モデルフレームワークにおいて、決定的と確率的再構成保証の相対的強さは何か？
• RQ4 圧縮測定における再構成誤差は、多様体からの距離とノイズレベルにどのように依存するか？
• RQ5 ノイズを含む圧縮測定から、多様体上でのパラメータ推定を安定的に行うにはどのような条件下が必要か？

主な発見

• 本稿は、確率的インスタンス最適バウンドを ℓ₂ で確立した：‖x − x̂‖ ≤ (1 + 3ε)‖x − x*‖ + (2 + 4ε)‖n‖ + ετ/40 であり、高確率かつ ε ≤ 1/3 の条件下で有効である。
• より強いバウンドとして、‖x − x̂‖ ≤ min((1 + 3ε)‖x − x*‖ + ετ/40, (1 + 2ε)(2√(N/M) + 5)‖x − x*‖) + (2 + 4ε)‖n‖ が得られ、確率 1 − 4ρ 以上で成立する。
• パラメータ推定に関しては、ℓ₂誤差が多様体の条件数 τ に対して小さければ、多様体距離 dₘ( x̂, x* ) ≤ τ − τ√(1 − 2‖x̂ − x*‖/τ) が成り立つ。
• 分析により、確率的再構成保証が決定的なものよりも著しく強いことが示され、スパース圧縮センシングにおける結果と類似している。
• 測定行列 Φ が多様体に対する制限的等長性性質（RIP）を満たすと仮定すれば、バウンドはタイトであり、M ≳ K log(N/K) のとき高確率で成立する。
• 結果は、多様体ベースのモデルが圧縮信号処理において高い精度で使用可能であることを確認しており、画像処理やセンサーネットワークなどの実世界応用における利用を支持する。