[論文レビュー] Belief propagation for joint sparse recovery

Jongmin Kim, Woohyuk Chang+3 more|arXiv (Cornell University)|Feb 16, 2011

Sparse and Compressive Sensing Techniques参考文献 15被引用数 66

ひとこと要約

本稿は、複数測定ベクトル（MMV）問題における連合スパース回復のための信念伝播（BP）フレームワークを提案する。ガウス分布によるメッセージ近似を用いて、緩和されたBPアルゴリズムと近似メッセージパッシング（AMP）の変種を導出する。主な貢献は、AMPの状態遷移に基づく正確な回復の十分条件を示し、スナップショット数が増加する際の最適性を示している。

ABSTRACT

Compressed sensing (CS) demonstrates that sparse signals can be recovered from underdetermined linear measurements. We focus on the joint sparse recovery problem where multiple signals share the same common sparse support sets, and they are measured through the same sensing matrix. Leveraging a recent information theoretic characterization of single signal CS, we formulate the optimal minimum mean square error (MMSE) estimation problem, and derive a belief propagation algorithm, its relaxed version, for the joint sparse recovery problem and an approximate message passing algorithm. In addition, using density evolution, we provide a sufficient condition for exact recovery.

研究の動機と目的

• 複数の信号が同じスパースサポートを共有し、共通のセンシング行列を介して測定される連合スパース回復問題に対処する。
• 単一信号の圧縮センシングにおける信念伝播を、相関のある信号を有する複数測定ベクトル（MMV）設定に拡張する。
• 計算複雑性を低減しつつ精度を維持するため、ガウス分布によるメッセージ近似を用いた緩和されたBPアルゴリズムを開発する。
• 平均更新におけるエッジ依存性を排除することで、収束を高速化したAMPアルゴリズムを導出する。
• AMPアルゴリズムの状態遷移を用いた、連合スパース回復の正確な回復のための十分条件を提示する。

提案手法

• 各信号が共通のスパースサポートを持つ連合信号モデルを用いてMMV問題を定式化し、振幅が多変量正規分布から抽出されると仮定する。
• 変数ノード（信号成分）と因子ノード（測定値）を有する因子グラフ表現を構築し、大規模システム近似下での局所的木構造を仮定する。
• 後騒乱分布をガウス分布としてモデル化することで、信号の各行にわたる平均および共分散の更新を可能にするベクトルメッセージパッシングアルゴリズムを導出する。
• エッジに依存しない共分散更新が可能となる厳密な条件を満たす、平均と共分散のメッセージのみを伝達する緩和されたBPアルゴリズムを導入する。
• さらに平均更新をエッジに依存しない形に単純化することで、計算効率に優れたAMPアルゴリズムを構築し、反復しきい値法と同等の効率を達成する。
• 密度推移を用いてAMPの状態遷移を分析し、スパarsity率と測定比に基づいた正確な回復のための十分条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 相関のある信号を有するMMVフレームワークにおいて、信念伝播が連合スパース回復問題に効果的に拡張可能か？
• RQ2 ガウス分布によるメッセージ近似を用いた緩和されたBPアルゴリズムが、正確かつ効率的な回復を達成するための条件は何か？
• RQ3 メッセージ更新におけるエッジ依存性をどのように排除することで、性能を損なわずに低複雑度のAMP変種を実現できるか？
• RQ4 AMPアルゴリズムを用いた連合スパース回復の正確な回復のための十分条件は何か？また、スパarsity率と測定比とはどのように関係するか？
• RQ5 スナップショット数Jが増加する際、AMPアルゴリズムは平均二乗誤差の観点で理論的最適性を達成するか？

主な発見

• 緩和されたBPアルゴリズムは、メッセージをガウス分布として近似し、平均と共分散の情報のみを伝達することで、正確な連合スパース回復を達成する。
• AMPによる正確な回復のための十分条件が導出された：ノイズなしの場合、AMPはかつてε ≤ δ（測定比）であるときかつそのときに限り、誤差がゼロに収束する。
• 大スナップショット数（J）の極限において、AMPはハードスレッショルドイングの挙動を示し、縮小作用素がc(i)(1 + c(i)) log(1 + c⁻¹(i))に比例する閾値でステップ関数に近づく。
• 大システム近似下で、AMPの状態遷移はc(i+1) = σ² + (ε/δ) × c(i)/(1 + c(i))に収束し、ε ≤ δのとき安定かつ誤差ゼロに収束することが示された。
• 数値結果により、緩和されたBP、エッジ独立性を適用した緩和されたBP、AMPの各アルゴリズムが、SNR = 30 dB条件下でほぼ同一の正規化二乗誤差（NSE）値に収束することが確認された。
• スナップショット数Jが増加するに従い、AMPアルゴリズムは回復性能において理論的最適性を達成し、εが最小測定レートとしての基本限界に一致する。