[論文レビュー] Approximate Message Passing with Nearest Neighbor Sparsity Pattern Learning

Xiangming Meng, Sheng Wu+4 more|arXiv (Cornell University)|Jan 4, 2016

Sparse and Compressive Sensing Techniques参考文献 39被引用数 9

ひとこと要約

本稿では、期待最大化（EM）を用いたk近傍（k-NN）推定により、クラスタリングされたスパースパターンを適応的に学習する近似メッセージパッシング（AMP）アルゴリズム、AMP-NNSPLを提案する。局所的近傍情報に基づいてスパース比を更新することで、合成および実世界の圧縮センシングタスクにおいて、スパースパターンが事前に未知である場合でも、最先端の手法を上回る再構成性能と計算効率を達成する。

ABSTRACT

We consider the problem of recovering clustered sparse signals with no prior knowledge of the sparsity pattern. Beyond simple sparsity, signals of interest often exhibits an underlying sparsity pattern which, if leveraged, can improve the reconstruction performance. However, the sparsity pattern is usually unknown a priori. Inspired by the idea of k-nearest neighbor (k-NN) algorithm, we propose an efficient algorithm termed approximate message passing with nearest neighbor sparsity pattern learning (AMP-NNSPL), which learns the sparsity pattern adaptively. AMP-NNSPL specifies a flexible spike and slab prior on the unknown signal and, after each AMP iteration, sets the sparse ratios as the average of the nearest neighbor estimates via expectation maximization (EM). Experimental results on both synthetic and real data demonstrate the superiority of our proposed algorithm both in terms of reconstruction performance and computational complexity.

研究の動機と目的

• スパースパターンが事前に未知である場合のクラスタリングされたスパース信号の再構成という課題に対処すること。
• 単なるスパース性を越えて、信号に内在するクラスタ構造を活用することで再構成性能を向上させること。
• 信号構造に関する事前知識が不要な、効率的で適応的なアルゴリズムの開発。
• 近似メッセージパッシングの計算的利点とk近傍クラスタリングの構造認識能力を統合すること。

提案手法

• 各信号要素に対して個別のスパース比λiを有する柔軟なスパイクアンドスラブ事前分布を用いることで、構造的スパースの適応的モデリングを可能にする。
• AMPの各反復後、信号のk近傍の推定値の平均に基づいて、期待最大化（EM）を用いてスパース比λiを更新する。
• k-NN近傍は、現在の信号推定に基づいて決定され、局所的構造がグローバルなスパースパターン学習に影響を与える。
• ベイジアン推論から導かれた閉形式の更新式を用いて、信号推定値、分散、スパース比を繰り返し更新する。
• EMに基づくスパース比の学習をAMPフレームワークに統合し、再構成中にスパースパターンをオンラインで適応可能にする。
• 複雑な階層的事前分布の明示的モデリングを避けることで、計算複雑性を低く保ちつつ、クラスタ型スパースを捉える。

実験結果

リサーチクエスチョン

• RQ1 k近傍統計は、圧縮センシングにおけるクラスタリングされた信号のスパースパターンを効果的に推定・適応的に学習するために有効に利用できるか？
• RQ2 EMに基づく近傍平均化によるスパースパターンの適応的学習は、固定またはランダムな事前分布と比較して、再構成性能をどのように向上させるか？
• RQ3 スパースパターンが未知である場合、AMP-NNSPLは最先端の手法に比べて再構成精度および計算効率の面でどの程度優れているか？
• RQ4 提案手法は、さまざまな信号対雑音比（SNR）および測定レートにおいてもロバスト性を維持するか？

主な発見

• ブロックスパースな合成信号実験において、AMP-NNSPLは全測定レートで最高の成功確率およびパターン回復率を達成した。
• ノイズあり設定（SNR = 50 dB）において、AMP-NNSPLは比較されたすべてのアルゴリズムの中で最小の正規化平均二乗誤差（NMSE）と最短の実行時間を達成した。
• スパース度が約0.12の実際の2次元アンジオグラム画像において、AMP-NNSPLは他の手法に比べて成功確率およびNMSEで顕著に優れており、特に低測定比（M/N = 0.12）で顕著であった。
• M/N = 0.12およびSNR = 50 dBの条件下で、AMP-NNSPLは視覚的および定量的再構成品質が最良であり、多数の試行で正確なサポート回復を達成した。
• 計算量の高い手法（PC-SBLおよびMBCS-LBP）ですら、実データテストでは計算コストの高さのため除外されているが、AMP-NNSPLはそれらに対しても優れた性能を維持した。