[論文レビュー] 1-Bit Compressive Sensing via Approximate Message Passing with Built-in Parameter Estimation

Shuai Huang, Trac D. Tran|arXiv (Cornell University)|Jul 15, 2020

Sparse and Compressive Sensing Techniques参考文献 61被引用数 6

ひとこと要約

本稿では、1ビット圧縮センシングにおける新たな近似メッセージパッシング（AMP）フレームワークを提案し、信号およびノイズ分布パラメータを未知の変数として扱い、それらを同時に回復する内蔵型パラメータ推定機能を備えている。ベイズ推論と計算的に効率的な最適化手法を活用することで、手動によるパrameterチューニングを必要とせず、ゼロノイズ、中程度ノイズ、高ノイズのあらゆる状況で最先端の性能を達成する。

ABSTRACT

1-bit compressive sensing aims to recover sparse signals from quantized 1-bit measurements. Designing efficient approaches that could handle noisy 1-bit measurements is important in a variety of applications. In this paper we use the approximate message passing (AMP) to achieve this goal due to its high computational efficiency and state-of-the-art performance. In AMP the signal of interest is assumed to follow some prior distribution, and its posterior distribution can be computed and used to recover the signal. In practice, the parameters of the prior distributions are often unknown and need to be estimated. Previous works tried to find the parameters that maximize either the measurement likelihood via expectation maximization, which becomes increasingly difficult to solve in cases of complicated probability models. Here we propose to treat the parameters as unknown variables and compute their posteriors via AMP as well, so that the parameters and the signal can be recovered jointly. Compared to previous methods, the proposed approach leads to a simple and elegant parameter estimation scheme, allowing us to directly work with 1-bit quantization noise model. Experimental results show that the proposed approach generally perform much better than the other state-of-the-art methods in the zero-noise and moderate-noise regimes, and outperforms them in most of the cases in the high-noise regime.

研究の動機と目的

• AMPの実用的応用を妨げる、未知の事前分布およびノイズ分布パラメータの問題に対処すること。
• 信号と分布パラメータを同時に推定することで回復精度を向上させる統一的フレームワークを開発すること。
• 複雑な量子化ノイズプロセスを直接モデル化することで、1ビット測定値におけるノイズの影響に強く対処すること。
• 手動によるパrameterチューニングや事前定義されたノイズモデルの必要性を排除し、アルゴリズムの安定性と使いやすさを向上させること。
• 現実的なノイズ状況下で、真のパラメータが分かっているオラクルAMPに近い性能を達成すること。

提案手法

• 信号およびノイズ分布パラメータを潜在変数として扱い、AMPフレームワーク内での事後分布の計算にベイズ推論を適用する。
• 一般化近似メッセージパッシング（GAMP）を用いて、ガウス近似を用いて事後分布を近似する。
• EMに類似した最適化戦略と2次最適化手法を組み合わせ、パラメータと信号の事後分布を同時に最大化する。
• 減衰と平均除去を導入することで、一般測定行列における収束安定性を向上させる。
• 従来の研究で用いられる近似を避けるために、1ビット量子化ノイズを確率的尤度関数を用いて直接モデル化する。
• 信号推定とパラメータ更新ステップを交互に繰り返す統合最適化スキームを採用し、パラメータのエンドツーエンド学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 1ビット圧縮センシングにおいて、ノイズやスパarsityレベルの事前知識がなくても、信号と分布パラメータを統一的に同時に推定できるか？
• RQ2 固定またはチューニング済みパラメータに依存する従来の手法と比較して、提案手法のパラメータ推定スキームはどのように優れているか？
• RQ3 従来のAMP手法が簡略化または近似したノイズ仮定に依存するのに対し、本手法はどれほど複雑な量子化ノイズモデルを処理できるか？
• RQ4 信号とパラメータの同時回復は、ゼロ、中程度、高ノイズのさまざまなノイズレベルにおいて、より高いロバスト性と性能を実現するか？
• RQ5 アルゴリズムの性能は初期化にどれほど敏感か？手動によるチューニングなしに収束性と精度を達成できるか？

主な発見

• 提案手法AMP-PEは、過剰サンプリング比M/N ≥ 2の条件下で、真のパラメータが分かっているオラクルAMPに非常に近い性能を達成する。
• ゼロノイズ（γw = 0）および中程度ノイズ（γw = 0.02）の状況では、IHT、OMP、CoSaMP、l1-最小化を含む最先端手法を著しく上回る性能を発揮する。
• 高ノイズ状況（γw = 0.1）でも、多数のテスト設定において他の手法を上回り、ロバスト性を示す。
• 正則化やパラメータチューニングの手動設定が不要であり、1ビットCSに即座に適用可能なプラグアンドプレイソリューションを提供する。
• 収束性と性能において、信号の初期化よりもパラメータの初期化がより重要であることが判明し、堅牢な初期化戦略の重要性が浮き彫りになる。
• 従来のAMP手法が簡略化または近似したノイズ仮定に依存するのに対し、本フレームワークは複雑な1ビット量子化ノイズモデルを直接処理できることを示した。