[論文レビュー] Cross Validation in Compressed Sensing via the Johnson Lindenstrauss Lemma

Rachel Ward|arXiv (Cornell University)|Mar 12, 2008

Sparse and Compressive Sensing Techniques被引用数 5

ひとこと要約

この論文は、推定誤差を最小限の計算コストで制限するために、ジョンソン＝リンデントラウス補題を用いた圧縮センシングにおける交差検証手法を提案する。4log(p)の測定値を検証用に予約することで、スパース信号の再構成における高確率での誤差境界を、スパarsityのk値p個の範囲で達成でき、標準的なデコード処理を上回る追加コストはほとんどない鋭い誤差推定が可能になる。

ABSTRACT

Compressed Sensing decoding algorithms can efficiently recover an N dimensional real-valued vector x to within a factor of its best k-term approximation by taking m = 2klog(N/k) measurements y = Phi x. If the sparsity or approximate sparsity level of x were known, then this theoretical guarantee would imply quality assurance of the resulting compressed sensing estimate. However, because the underlying sparsity of the signal x is unknown, the quality of a compressed sensing estimate x* using m measurements is not assured. Nevertheless, we demonstrate that sharp bounds on the error || x - x* ||_2 can be achieved with almost no effort. More precisely, we assume that a maximum number of measurements m is pre-imposed; we reserve 4log(p) of the original m measurements and compute a sequence of possible estimates (x_j)_{j=1}^p to x from the m - 4log(p) remaining measurements; the errors ||x - x*_j ||_2 for j = 1, ..., p can then be bounded with high probability. As a consequence, numerical upper and lower bounds on the error between x and the best k-term approximation to x can be estimated for p values of k with almost no cost. Our observation has applications outside of compressed sensing as well.

研究の動機と目的

• 信号の真のスパarsityレベルが不明な場合の圧縮センシングにおける品質保証の欠如に対処すること。
• 測定コストを増加させることなく、圧縮センシング再構成の信頼性のある誤差推定を可能にすること。
• 標準的なデコード処理に加えて、わずかな測定値の割合を用いて、再構成誤差 ||x - x*||₂ に対する鋭い高確率境界を提供する手法を開発すること。
• 追加の計算コストをほとんど要せず、p個のスパarsityレベルkについてp個の値の範囲で誤差境界を推定できること。
• 誤差推定の適用範囲を圧縮センシングにとどめず、他の高次元回復問題へと拡張できること。

提案手法

• 全m回の測定値から、交差検証用に4log(p)の測定値を予約する。
• 残りのm - 4log(p)の測定値を用いて、異なるスパarsityレベルkのためのp個の候補再構成（x*_j）を計算する。
• ジョンソン＝リンデントラウス補題を用いて、誤差 ||x - x*_j||₂ がその期待値の周りに高確率で集中することを確立する。
• ジョンソン＝リンデントラウス補題の次元削減特性を活用し、真の信号とその再構成との間の誤差を高い信頼性で制限する。
• p個の検証推定値を分析することで、最良のk項近似に対する誤差の上限と下限を推定する。
• 追加の信号取得を必要とせず、予約した測定値を用いて誤差境界の検証とキャリブレーションを行う。

実験結果

リサーチクエスチョン

• RQ1 真のスパarsityレベルが不明な状況下でも、圧縮センシング再構成に対して鋭い高確率誤差境界を達成できるか？
• RQ2 最小限の追加測定および計算コストで、複数のスパarsityレベルkの誤差境界を推定する方法は何か？
• RQ3 ジョンソン＝リンデントラウス補題は、わずかな測定値の割合を用いて、圧縮センシング再構成の検証にどの程度応用可能か？
• RQ4 kを事前に知らない状況でも、信号とその最良のk項近似との間の誤差を信頼性高く推定できるか？
• RQ5 交差検証に基づく誤差推定を圧縮センシングで実現するために、測定コストとして必要な最小限のオーバーヘッドは何か？

主な発見

• 4log(p)の測定値を予約するだけで、再構成誤差 ||x - x*||₂ に対する高確率境界を達成でき、これは漸近的に無視できる。
• p個の異なるスパarsityレベルkについての誤差境界は、標準的な圧縮センシングデコード処理を上回る追加コストをほとんど要しない。
• ジョンソン＝リンデントラウス補題により、再構成品質に対する鋭い非漸近的誤差境界を導出可能である。
• このアプローチにより、最良のk項近似に対する誤差の上限と下限の両方を信頼性高く推定できる。
• 真のスパarsityレベルが不明な場合でも、品質保証の実用的フレームワークを提供する。
• この手法は圧縮センシングにとどまらず、他の高次元信号回復問題へも一般化可能である。