[論文レビュー] Bayesian Compressive Sensing via Belief Propagation

Dror Baron, Shriram Sarvotham+1 more|ArXiv.org|Dec 25, 2008

Sparse and Compressive Sensing Techniques参考文献 50被引用数 4

ひとこと要約

本稿では、因子グラフ表現における近似的ベイジアン推論を用いて、サブ・ナイキスト測定からスパース信号を再構築する高速でスケーラブルな手法であるベイジアン・コンpressive・センシング・スケーリング・プロセス（CS-BP）を提案する。長さ$N$の信号で$K$個の顕著な係数を持つ場合、$O(K\log N)$の測定数と$O(N\log^2 N)$の計算量を達成し、従来の$\ell_1$ベースの手法に比べて高速でありながら、二状態ガウス混合モデル下でも高い再構築精度を維持する。

ABSTRACT

Compressive sensing (CS) is an emerging field based on the revelation that a small collection of linear projections of a sparse signal contains enough information for stable, sub-Nyquist signal acquisition. When a statistical characterization of the signal is available, Bayesian inference can complement conventional CS methods based on linear programming or greedy algorithms. We perform approximate Bayesian inference using belief propagation (BP) decoding, which represents the CS encoding matrix as a graphical model. Fast computation is obtained by reducing the size of the graphical model with sparse encoding matrices. To decode a length-N signal containing K large coefficients, our CS-BP decoding algorithm uses O(Klog(N)) measurements and O(Nlog^2(N)) computation. Finally, although we focus on a two-state mixture Gaussian model, CS-BP is easily adapted to other signal models.

研究の動機と目的

• 圧縮線形測定からスパース信号を再構築するための高速でスケーラブルなアルゴリズムの開発。
• 特に$\ell_1$最小化やグリーディアルゴリズムに基づく既存の圧縮センシング手法の計算複雑度の低減。
• グラフィカルモデルと信念伝播を活用して、スパース信号における効率的な近似的ベイジアン推論を実現。
• スパース符号化行列を用いた信念伝播デコードが、著しく低い計算量でほぼ最適な性能を達成できることの実証。
• より高速なデコードを可能にすることで、再構築忠実度を損なわずに大規模問題への圧縮センシングの適用範囲を拡張すること。

提案手法

• 本手法は、圧縮センシング問題を因子グラフとしてモデル化し、測定行列$\Phi$をグラフィカルモデルとして表現することで、信念伝播（BP）デコードを可能にする。
• スパース性をモデル化するため、信号係数に二状態ガウス混合事前分布を用いる。大きな係数は$\mathcal{N}(0, \sigma_1^2)$から、小さな係数は$\mathcal{N}(0, \sigma_0^2)$から抽出される。
• 信念伝播を用いて信号係数の近似的後験的周辺分布を計算し、NP困難な$\ell_0$最適化を解かずに効率的なベイジアン推論を実現する。
• 各列に$L = \Theta(\log N)$個の非ゼロ要素を持つスパース符号化行列$\Phi$を用いることで、グラフィカルモデルのサイズを縮小し、高速なメッセージ伝達を可能にする。
• 因子グラフ上の効率的なメッセージ伝達更新と$\Phi$のスパarsityを活用することで、$O(N\log^2 N)$の計算時間で実現される。
• 本手法は、二状態ガウス混合モデルを超える他の信号モデルにも適応可能であり、さまざまな可縮性または近似的スパース信号への柔軟な応用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 信念伝播は、計算複雑度を低減しつつ、圧縮センシングにおける近似的ベイジアン推論に効果的に適用可能か？
• RQ2 ガウス混合モデル下で信念伝播ベースのデコードを用いた場合、信頼性のある信号再構築に必要な最小測定数は何か？
• RQ3 信念伝播ベースのデコードの計算複雑度は、信号次元$N$とスパースリティ$K$に対してどのようにスケーリングするか？
• RQ4 スパース符号化行列は、再構築精度を維持しつつ、因子グラフ上の高速メッセージ伝達を可能にするか？
• RQ5 CS-BPの性能は、従来の$\ell_1$最小化およびグリーディアルゴリズムと比べて、速度と正確性の両面で優れているか？

主な発見

• CS-BPアルゴリズムは、$O(K\log N)$の測定数を達成し、スパース信号再構築の情報理論的下界と一致する。
• アルゴリズムは$O(N\log^2 N)$の計算量を実現し、標準的な$\ell_1$最小化の$O(N^3)$の複雑度に比べて顕著に高速である。
• 高確率$1 - 2N^{-\gamma}$で、再構築誤差$\|\widehat{a} - x\|_{\infty}$が$\mu\sigma_1$で有界であり、大きな係数の正確な回復が保証される。
• 本手法は信号モデルの仮定に対してロバストであり、二状態ガウス混合モデル以外の信号分布に対しても容易に適応可能である。
• 各列に$L = \Theta(\log N)$個の非ゼロ要素を持つスパース符号化行列の使用により、効率的なメッセージ伝達が可能になり、ほぼ最適な回復性能を維持する。
• 理論的解析により、測定数が$O(N(1 + 2\eta^{-1}) \cdot \mu^{-2} \cdot [2S + (1-S)(\sigma_0/\sigma_1)^2] \log N)$にスケーリングすることが確認され、スパースリティ、ノイズ、正確性のバランスが取れている。