[論文レビュー] Distributed Approximate Message Passing for Compressed Sensing

Puxiao Han, Ruixin Niu+1 more|arXiv (Cornell University)|Apr 14, 2014

Sparse and Compressive Sensing Techniques参考文献 10被引用数 4

ひとこと要約

本稿では、信号のスパarsityが未知の状態でのセンサネットワークにおける圧縮センシングに、分散近似メッセージパッシング（DAMP）を提案する。新たなグローバル計算手法（GCAMP）を用いて、センサ間通信を最小限に抑える。GCAMPにより、分散システムは中央集権的AMPと同等の復元性能を達成するとともに、修正されたしきい値処理アルゴリズムと比較して通信コストを最大60％まで削減できる。

ABSTRACT

In this paper, an efficient distributed approach for implementing the approximate message passing (AMP) algorithm, named distributed AMP (DAMP), is developed for compressed sensing (CS) recovery in sensor networks with the sparsity K unknown. In the proposed DAMP, distributed sensors do not have to use or know the entire global sensing matrix, and the burden of computation and storage for each sensor is reduced. To reduce communications among the sensors, a new data query algorithm, called global computation for AMP (GCAMP), is proposed. The proposed GCAMP based DAMP approach has exactly the same recovery solution as the centralized AMP algorithm, which is proved theoretically in the paper. The performance of the DAMP approach is evaluated in terms of the communication cost saved by using GCAMP. For comparison purpose, thresholding algorithm (TA), a well known distributed Top-K algorithm, is modified so that it also leads to the same recovery solution as the centralized AMP. Numerical results demonstrate that the GCAMP based DAMP outperforms the Modified TA based DAMP, and reduces the communication cost significantly.

研究の動機と目的

• 信号のスパarsityやグローバルなセンシング行列の事前知識が不要な分散圧縮センシングアルゴリズムの開発を目的とする。
• 反復的信号復元におけるセンサネットワークの通信オーバーヘッドを低減することを目的とする。
• 中央集権的AMPと同等の性能を維持しながら、メッセージ交換を最小限に抑えるグローバル計算手法の設計を目的とする。
• 提案手法の通信効率を、修正されたしきい値処理アルゴリズムと比較して評価することを目的とする。

提案手法

• 各センサが自らの局所的センシング行列のみを用いて局所計算を実行し、メッセージパッシングにより反復的に推定値を更新する分散AMP（DAMP）を提案する。
• 局所的結果を効率的に集約する新規アルゴリズムであるグローバル計算AMP（GCAMP）を導入し、センサ間のメッセージ通信量を削減する。
• 局所的計算とグローバル計算を分離するための中間行列 $ W_t $ を用い、AMPの更新ルールを分散的に実装可能にする。
• ノイズ分散と反復回数に基づく適応的しきい値処理を実行するソフトしきい値演算子 $ \eta_t $ を採用する。
• スパarsityの事前知識がなくても最適性能に近い結果を得られるよう、$ \tau $ パrameterのチューニング手順を導入する。
• 公平な比較のため、しきい値処理アルゴリズム（TA）を修正し、中央集権的AMPと同等の性能を達成する修正TAバージョンを構築する。

実験結果

リサーチクエスチョン

• RQ1 グローバルセンシング行列の知識がなくても、中央集権的AMPと同等の復元性能を達成できる分散AMPアルゴリズムを設計可能か？
• RQ2 分散圧縮センシングにおける通信コストを著しく低減しつつ、解の正確性を維持できるか？
• RQ3 提案されたGCAMPアルゴリズムは、修正されたしきい値処理アルゴリズムと比較して、メッセージ削減効果と収束効率に優れているか？
• RQ4 信号のスパarsity、ノイズレベル、センサ数の変動が通信効率に与える影響は何か？

主な発見

• 理論的に、GCAMPを用いたDAMPは、中央集権的AMPと同一の復元解を達成することが保証されている。
• 全テスト環境において、GCAMPは修正TAベースラインと比較して通信コストを22.7％から48.2％まで削減した。
• 各反復において、$ N(P-1) $ メッセージの91％未満を用いており、95％以上の反復でメッセージ数が40％から80％に留まった。
• 数値結果から、GCAMPは常に修正TAを上回り、GCAMPの $ \bar{\mu}_M $ 値は0.518から0.773の範囲に、一方修正TAは0.941から1.110の範囲に分布した。
• 通信コストの削減効果は、低ノイズおよび低スパarsity領域で顕著であり、センサ数（P = 5から50）の変動に対してもGCAMPは効率性を維持した。
• メッセージ使用量の累積分布関数から、GCAMPは高い確率で低メッセージ負荷を維持しており、耐障害性とスケーラビリティが裏付けられた。