[論文レビュー] An Estimation Theoretic Approach for Sparsity Pattern Recovery in the Noisy Setting

Ali Hormati, Amin Karbasi+2 more|ArXiv.org|Nov 25, 2009

Sparse and Compressive Sensing Techniques参考文献 25被引用数 11

ひとこと要約

本稿では、ノイズ付き圧縮センシングにおけるスパarsityパターン回復の推定理論的枠組みを提案し、ハマークリー＝チャープマン＝ロビンズ（HCR）境界を用いて、サポート回復性能の根本的限界を導出する。特定の条件下で最尤推定器（MLE）がHCR境界に達することを示しており、理論的限界から9 dBのギャップを示し、ガウス測定行列を用いた信頼性の高い回復のためのタイトな十分条件を提供する。

ABSTRACT

Compressed sensing deals with the reconstruction of sparse signals using a small number of linear measurements. One of the main challenges in compressed sensing is to find the support of a sparse signal. In the literature, several bounds on the scaling law of the number of measurements for successful support recovery have been derived where the main focus is on random Gaussian measurement matrices. In this paper, we investigate the noisy support recovery problem from an estimation theoretic point of view, where no specific assumption is made on the underlying measurement matrix. The linear measurements are perturbed by additive white Gaussian noise. We define the output of a support estimator to be a set of position values in increasing order. We set the error between the true and estimated supports as the $\ell_2$-norm of their difference. On the one hand, this choice allows us to use the machinery behind the $\ell_2$-norm error metric and on the other hand, converts the support recovery into a more intuitive and geometrical problem. First, by using the Hammersley-Chapman-Robbins (HCR) bound, we derive a fundamental lower bound on the performance of any \emph{unbiased} estimator of the support set. This lower bound provides us with necessary conditions on the number of measurements for reliable $\ell_2$-norm support recovery, which we specifically evaluate for uniform Gaussian measurement matrices. Then, we analyze the maximum likelihood estimator and derive conditions under which the HCR bound is achievable. This leads us to the number of measurements for the optimum decoder which is sufficient for reliable $\ell_2$-norm support recovery. Using this framework, we specifically evaluate sufficient conditions for uniform Gaussian measurement matrices.

研究の動機と目的

• 加法性白色ガウスノイズが存在する状況下で、スパース信号のサポートの不偏推定器の根本的性能限界を確立すること。
• ℓ₂ノルム誤差指標に基づいて、最尤推定器（MLE）のサポート回復精度の性能を分析すること。
• 特にi.i.d.ガウス測定行列に対して、信頼性のあるℓ₂ノルムサポート回復のための測定回数に関する必要十分条件を導出すること。
• HCR境界を用いて、最適デコーダの性能と理論的下限とのギャップを信号対ノイズ比の観点から定量化すること。

提案手法

• 著者らは、真のサポート集合と推定されたサポート集合の差のℓ₂ノルムを誤差として定義することで、サポート回復問題をパラメータ推定問題としてモデル化する。
• 一般の測定行列に対して有効な、任意の不偏推定器のサポート集合推定の分散に関する根本的下限を導出するために、ハマークリー＝チャープマン＝ロビンズ（HCR）境界を適用する。
• i.i.d.ガウス測定行列に特化した解析により、必要な測定スケーリング則の明示的評価が可能になる。
• 最尤推定器（MLE）の性能を分析し、それがいつ不偏となり、HCR境界に達するかの条件を特定する。
• ノイズエネルギーのカイ二乗分布を用いてMLEの誤差確率を上界で評価し、誤差の上界を導出する。
• サポート集合間の分離度を特徴付けるための区別要因βを導入し、誤差上界をβと測定回数mの関数として表現する。

実験結果

リサーチクエスチョン

• RQ1 ノイズ付き圧縮センシングにおけるスパarsityパターンの不偏推定器のℓ₂ノルム誤差の根本的下限は何か？
• RQ2 最尤推定器がこの下限に到達できる条件は何か？
• RQ3 ガウス測定行列を用いた信頼性のあるℓ₂ノルムサポート回復に十分な測定回数はどれくらいか？
• RQ4 信号対ノイズ比の観点から、最適デコーダの性能と理論的限界とのギャップは何か？

主な発見

• ハマークリー＝チャープマン＝ロビンズ（HCR）境界は、測定行列の構造に依存しない、任意の不偏推定器のサポート集合推定におけるℓ₂ノルム誤差の根本的下限を提供する。
• i.i.d.ガウス測定行列の場合、必要な測定回数はスパarsityレベルkと信号対ノイズ比に従ってスケーリングされ、HCR境界から導出される。
• 最尤推定器（MLE）は特定の条件下でHCR境界に達し、サポート回復において不偏意味で最適であることが示される。
• 最適デコーダとHCR下限との間の性能ギャップはわずか9 dBであり、理論的限界に近い最適性が示された。
• MLEの誤差確率は、不完全ガンマ関数を含む式によって上界で評価され、測定回数mとともに指数的に減少する。
• 信頼性のある回復のための導出された十分条件はタイトであり、サポート集合の測定空間内での分離度を捉える区別要因βに明示的に依存する。