[論文レビュー] Hamming Compressed Sensing

Tianyi Zhou, Dacheng Tao|arXiv (Cornell University)|Oct 1, 2011

Sparse and Compressive Sensing Techniques参考文献 37被引用数 4

ひとこと要約

本稿では、ベルヌーイ分布空間内におけるn重のKullback-Leibler(KL)ダイバージェンスに基づく最近傍探索を用いて、1ビット測定値からkビット量子化信号を直接回復する、新しい手法であるハミング圧縮センシング(HCS)を提案する。HCSは線形回復時間、O(log n)の測定数を要し、スパース信号および密度の高い信号の両方において、従来の圧縮センシングおよび1ビットCSよりも高速性、耐障害性、効率性に優れる。

ABSTRACT

Compressed sensing (CS) and 1-bit CS cannot directly recover quantized signals and require time consuming recovery. In this paper, we introduce extit{Hamming compressed sensing} (HCS) that directly recovers a k-bit quantized signal of dimensional $n$ from its 1-bit measurements via invoking $n$ times of Kullback-Leibler divergence based nearest neighbor search. Compared with CS and 1-bit CS, HCS allows the signal to be dense, takes considerably less (linear) recovery time and requires substantially less measurements ($\mathcal O(\log n)$). Moreover, HCS recovery can accelerate the subsequent 1-bit CS dequantizer. We study a quantized recovery error bound of HCS for general signals and "HCS+dequantizer" recovery error bound for sparse signals. Extensive numerical simulations verify the appealing accuracy, robustness, efficiency and consistency of HCS.

研究の動機と目的

• 従来の圧縮センシング(CS)および1ビットCSが反復的または最適化に基づく回復に依存するため、非効率で回復コストが高いため、その問題を解決すること。
• 先行研究が満たさない実用的ニーズである、1ビット測定値からkビット量子化信号を直接回復可能にする方法の確立。
• 信号のスパarsityに依存せず、回復時間の計算量を多項式から線形に低減しながら、精度と耐障害性を維持すること。
• HCSによる高品質な初期推定値を提供することで、その後のデキュー アンタイジングを高速化すること。
• HCSにおける一般信号およびスパース信号の理論的回復誤差バウンドの確立。

提案手法

• HCSは、Kullback-Leibler(KL)ダイバージェンスを距離尺度として用い、ベルヌーイ分布空間内でのn回の最近傍探索により、kビット量子化信号を回復する。
• 各探索では、1ビット測定ベクトルを、すべての可能なkビット量子化信号パターンとKLダイバージェンスで比較し、最も類似したパターンを特定する。
• 本手法は、1ビット測定値が線形射影の符号パターンに対応することに着目し、これらの符号パターンを用いて量子化信号空間内の最近傍探索をガイドする。
• 測定パターンとすべての候補kビット信号とのKLダイバージェンスを計算することで、O(nk)時間で回復を達成する。
• 本手法は信号のスパarsityに依存しないため、密度の高い信号の直接回復が可能である。
• HCSはさらにデキュー アンタイザーと組み合わせられ、特にスパース信号において再構成精度を向上させ、理論的整合性および誤差バウンドが確立されている。

実験結果

リサーチクエスチョン

• RQ1 kビット量子化信号を反復的でなく、低計算量の手法により1ビット測定値から直接回復可能か？
• RQ2 HCSは、ノイズ下でも高い精度と耐障害性を維持しながら、線形回復時間に到達するか？
• RQ3 HCSは、標準的な1ビットCSと比較して、その後のデキュー アンタイジングプロセスを顕著に高速化できるか？
• RQ4 デキュー アンタイザーと組み合わせた場合、HCSの一般信号およびスパース信号に対する理論的回復誤差バウンドは何か？
• RQ5 ノイズ環境下において、HCSはCSおよび1ビットCSと比較して、測定効率および耐障害性の面で優れているか？

主な発見

• HCSは線形回復時間O(nk)を達成しており、最適化に基づくCSおよび1ビットCS手法が要する多項式時間と比較して著しく高速である。
• HCSは、スパース信号でさえも、標準CSが要するO(K log(n/K))よりもはるかに少ないO(log n)の測定数で正確な回復を実現する。
• ノイズ環境下では、1ビットCSと比較してHCSが優れた耐障害性を示し、測定回数が増加するに従い、量子化回復誤差が急速に減少する。
• HCSの時間コストは、'1ビットCS + HCSデキュー アンタイザー'と比較して、測定回数の増加に伴いはるかにゆっくりと増加するため、優れたスケーラビリティを有する。
• 'HCS + デキュー アンタイザー'パイプラインは、10回未満のデキュー アンタイジング反復で1ビットCSと同等またはより高い精度を達成するが、1ビットCSは同程度の精度を得るためには50回以上の反復を要する。
• フェーズ遷移解析により、HCSは信号次元およびノイズレベルの変動に対しても一貫した性能を維持しており、ハミング損失と角誤差の間に強い線形関係が確認され、理論的整合性が裏付けられた。