[論文レビュー] Thresholded Basis Pursuit: Support Recovery for Sparse and Approximately Sparse Signals

Venkatesh Saligrama, Manqi Zhao|arXiv (Cornell University)|Sep 29, 2008

Sparse and Compressive Sensing Techniques参考文献 26被引用数 5

ひとこと要約

本稿では、ノイズありのランダム投影からスパースおよびほぼスパースな信号の正確なサポート回復を実現する線形計画法に基づく手法を提案する。ℓ1最小化問題を解いた後、しきい値処理を施すことにより、SNR = O(log n) かつ m = O(k log n/k) の測定数で、完全な符号パターン回復を達成する。これはノイズなしスパース性の限界と一致し、LASSO や MAX-Correlation 法よりも SNR やスパース性要件において優れている。

ABSTRACT

In this paper we present a linear programming solution for support recovery. Support recovery involves the estimation of sign pattern of a sparse signal from a set of randomly projected noisy measurements. Our solution of the problem amounts to solving min ‖Z‖1 s.t. Y = GZ, and quantizing/thresholding the resulting solution Z. We show that this scheme is guaranteed to perfectly reconstruct a discrete signal or control the element-wise reconstruction error for a continuous signal for specific values of sparsity. We show that the sign pattern of X can be recovered with SNR = O(log n) and m = O(k log n/k) measurements, where k is the sparsity level and satisfies 0 < k ≤ αn, where, α is some non-zero constant. Our proof technique is based on perturbation of the noiseless ℓ1 problem. Consequently, the maximum achievable sparsity level in the noisy problem is comparable to that of the noiseless problem. Our result offers a sharp characterization in that neither the SNR nor the sparsity ratio can be significantly improved. In contrast previous results based on LASSO and MAX-Correlation techniques either assume significantly larger SNR or sub-linear sparsity. Our results has implications for approximately sparse problems. We show that the k largest coefficients of a non-sparse signal X can be recovered from m = O(k log n/k) random projections for certain classes of signals.

研究の動機と目的

• スパースおよびほぼスパースな信号のノイズありランダム投影測定からのサポート回復の課題に対処すること。
• 最小限の SNR や測定数要件のもとで、正確な符号パターン回復を保証する手法を開発すること。
• LASSO や MAX-Correlation といった従来手法の限界（より高い SNR や部分線形スパース性の仮定を要する）を克服すること。
• ノイズあり設定における達成可能なスパースレベルの明確な特徴付けを提供し、ノイズなし ℓ1 問題と同等のものにすること。
• 適切な信号構造を仮定することで、ほぼスパース信号に対する枠組みを拡張し、最大 k 個の係数を最小限の測定数で回復すること。

提案手法

• 測定ベクトル Y とランダム投影行列 G を用いて、制約付き ℓ1 最小化問題としてサポート回復を定式化：min ‖Z‖1 かつ Y = GZ。
• 元の信号 X のサポートを推定するために、解 Z に対してしきい値処理を適用する。
• ノイズなし ℓ1 問題の摂動解析を用いて、ノイズあり条件下での理論的保証を導出する。
• SNR が O(log n) で、測定数 m が O(k log n/k) であるとき、この手法が完全再構成を達成することを確立する。
• ノイズなしケースで達成可能な最大スパースレベルを、ノイズありでも維持する証明戦略を採用する。
• 適切な信号構造を仮定することで、最大 k 個の係数の回復に注目することで、ほぼスパース信号への枠組みの拡張を実現する。

実験結果

リサーチクエスチョン

• RQ1 信号次元 n に対して SNR が対数的にスケーリングする場合、サポート回復が可能か？
• RQ2 ノイズあり条件下で k スパース信号の符号パターンを回復するための最小測定数は何か？
• RQ3 ノイズが存在する状況でも、ノイズなし ℓ1 問題と同等のスパースレベルを達成できるか？
• RQ4 SNR やスパース性制約の観点から、この手法は LASSO や MAX-Correlation と比べてどのように性能が異なるか？
• RQ5 非スパース信号の k 個の最大係数を、O(k log n/k) 測定数で回復できるか？

主な発見

• 本手法は、SNR = O(log n) で k スパース信号の完全な符号パターン回復を保証する。これは、従来手法が要請するよりも顕著に低い。
• 必要な測定数は m = O(k log n/k) であり、ノイズなし ℓ1 回復の理論的最小値と一致する。
• ノイズあり設定における達成可能な最大スパースレベルは、ノイズなしケースと同等であり、根本的な再構成可能性に損失がないことを示す。
• LASSO や MAX-Correlation 手法よりも優れている。これらは、より高い SNR や部分線形スパース性の仮定を要する。
• ほぼスパース信号の場合、適切な信号クラスを仮定すれば、O(k log n/k) のランダム投影から k 個の最大係数を回復可能である。
• 理論的分析により、与えられた枠組みのもとで SNR やスパース比を著しく改善することはできないことが明確に示された。