[論文レビュー] Message-Passing Estimation from Quantized Samples

Ulugbek S. Kamilov, Vivek K Goyal+1 more|arXiv (Cornell University)|May 31, 2011

Distributed Sensor Networks and Detection Algorithms参考文献 58被引用数 63

ひとこと要約

本稿では、非正規スカラー量子化器を用いた量子化線形測定からの最小平均二乗誤差推定のための一般化近似メッセージパッシング（GAMP）を提案する。GAMPは、正規および非正規の量子化器からの効率的かつ高精度な再構成を可能にする。本稿では、GAMPが圧縮センシングおよび過サンプリング系において、従来の線形法および基底追跡法を著しく上回ることを示しており、状態遷移を用いた性能解析と、再構成MSEに最適化された量子化器設計が可能である。

ABSTRACT

Estimation of a vector from quantized linear measurements is a common problem for which simple linear techniques are suboptimal -- sometimes greatly so. This paper develops generalized approximate message passing (GAMP) algorithms for minimum mean-squared error estimation of a random vector from quantized linear measurements, notably allowing the linear expansion to be overcomplete or undercomplete and the scalar quantization to be regular or non-regular. GAMP is a recently-developed class of algorithms that uses Gaussian approximations in belief propagation and allows arbitrary separable input and output channels. Scalar quantization of measurements is incorporated into the output channel formalism, leading to the first tractable and effective method for high-dimensional estimation problems involving non-regular scalar quantization. Non-regular quantization is empirically demonstrated to greatly improve rate-distortion performance in some problems with oversampling or with undersampling combined with a sparsity-inducing prior. Under the assumption of a Gaussian measurement matrix with i.i.d. entries, the asymptotic error performance of GAMP can be accurately predicted and tracked through the state evolution formalism. We additionally use state evolution to design MSE-optimal scalar quantizers for GAMP signal reconstruction and empirically demonstrate the superior error performance of the resulting quantizers.

研究の動機と目的

• 非正規または測定行列が過剰または不足する状況下でも、高次元推定に対して取り扱いやすく効率的な手法を開発すること。
• 従来、凸でない一貫性集合のため計算が困難であった、モジュロやボックス化量子化器などの非正規スカラー量子化器を用いる推定を可能にすること。
• 確率的i.i.d.測定行列を仮定した下で、状態遷移形式を用いて推定アルゴリズムの性能を正確に特徴付けること。
• 測定量子化のための最適化ではなく、GAMPに基づく再構成のためのMSE最適化を目的としたスカラー量子化器を設計すること。
• 非正規量子化とGAMPの組み合わせが、過サンプリングおよび圧縮センシングの両状況で、標準的な正規量子化器と比較して優れたレート・ディストーション性能を達成することを実験的に示すこと。

提案手法

• GAMPは、非線形出力チャネルを扱うためにガウス近似を用いた信念伝播を拡張し、スカラー量子化を出力チャネルモデルの一部として統合する。
• アルゴリズムは、信号成分にi.i.d.事前分布を仮定するベイジアンフレームワークを採用し、近似的なガウス更新を用いて信号領域と測定領域の間で反復的メッセージパッシングを実行する。
• 非正規量子化器は、互いに重複しない区間セルを持つ出力チャネルとしてモデル化され、ヒューリスティックなノイズモデルを用いずに複雑な量子化領域を扱える。
• 状態遷移（SE）を用いて、大規模なi.i.d.ランダム測定行列下でのGAMPの漸近的平均二乗誤差（MSE）性能を解析的に予測する。
• 量子化器を測定チャネルの一部として扱い、SEによって予測された再構成MSEを最小化することで、GAMPのためのMSE最適量子化器を設計する。
• 計算は効率的であり、各反復でAおよびA^Tとの行列-ベクトル乗算のみを必要とし、実用的には10〜20反復で収束する。

実験結果

リサーチクエスチョン

• RQ1 GAMPは、モジュロやボックス化量子化器など、従来の手法では非効率であった非正規スカラー量子化器からの高次元推定に対して、取り扱いやすく効果的な解決策を提供できるか？
• RQ2 特に測定行列が過剰または不足する系において、状態遷移を用いた漸近的状態でのGAMP性能予測はどの程度正確か？
• RQ3 GAMPに基づく再構成は、過サンプリングおよび圧縮センシングの両状況で、従来の線形法および基底追跡法と比較してMSEの観点で顕著に優れているか？
• RQ4 測定量子化のための最適化ではなく、GAMP再構成のためのMSE最小化を目的とした量子化器を設計でき、その結果、レート・ディストーション性能が向上するか？
• RQ5 非正規量子化が、相関性やスパース信号モデルを有する状況下で、GAMPと組み合わせた場合、レート・ディストーション性能にどのような影響を与えるか？

主な発見

• 16段階の均等量子化を用いた圧縮センシングにおいて、GAMPはm/nのすべての値で線形MMSEおよび基底追跡ノイズ除去（BPDN）よりも顕著に低いMSEを達成し、数dBの一貫した性能向上を示している。
• 同じレートで、状態遷移を用いて最適化されたボックス化（非正規）量子化器は、GAMPと組み合わせた場合、正規均等量子化器よりも顕著に低い歪みを達成しており、重要なレート・ディストーション上の利点を示している。
• GAMPの性能は状態遷移によって正確に予測可能であり、さまざまな信号対ノイズ比および測定比において、予測されたMSEと実測結果が密接に一致している。
• モーメントp=4の基底追跡再量子化器（BPDQ）は、高m/n領域でBPDNよりも約2dBのMSE改善を達成するが、GAMPはm/nの全範囲で両者を上回る性能を示している。
• モジュロ量子化器などの非正規量子化器の使用により、相関性のあるデータ環境下で性能向上が可能であり、GAMPはこのような量子化構造を処理可能な計算的に取り扱いやすい最初の手法である。
• 状態遷移を用いた量子化器最適化により、GAMPのためのMSE最適量子化器が得られ、測定量子化のための最適化のみで得られる量子化器よりも優れた再構成性能を達成している。