[論文レビュー] Recovery from Linear Measurements with Complexity-Matching Universal Signal Estimation

Junan Zhu, Dror Baron+1 more|arXiv (Cornell University)|Apr 12, 2012

Sparse and Compressive Sensing Techniques参考文献 49被引用数 5

ひとこと要約

本稿は、コルモゴロフ・コンプレックスィティと最小記述長（MDL）の原則にインspiredされた普遍的事前分布を用いた最大後確信度（MAP）推定に基づき、複雑さマッチングを実現する圧縮センシングのための普遍的信号推定フレームワークを提案する。アダプティブ・トランジション・スケジューリングを用いたマルコフ連鎖モンテカルロ（MCMC）アルゴリズムにより、信号構造の事前知識がなくても正確な再構成が可能となり、非スパースで低複雑度の信号において、従来のスパarsityに基づく手法を凌駆する性能を示す。

ABSTRACT

We study the compressed sensing (CS) signal estimation problem where an input signal is measured via a linear matrix multiplication under additive noise. While this setup usually assumes sparsity or compressibility in the input signal during recovery, the signal structure that can be leveraged is often not known a priori. In this paper, we consider universal CS recovery, where the statistics of a stationary ergodic signal source are estimated simultaneously with the signal itself. Inspired by Kolmogorov complexity and minimum description length, we focus on a maximum a posteriori (MAP) estimation framework that leverages universal priors to match the complexity of the source. Our framework can also be applied to general linear inverse problems where more measurements than in CS might be needed. We provide theoretical results that support the algorithmic feasibility of universal MAP estimation using a Markov chain Monte Carlo implementation, which is computationally challenging. We incorporate some techniques to accelerate the algorithm while providing comparable and in many cases better reconstruction quality than existing algorithms. Experimental results show the promise of universality in CS, particularly for low-complexity sources that do not exhibit standard sparsity or compressibility.

研究の動機と目的

• 既存の圧縮センシング手法が信号のスパarsityや可圧縮性に関する事前知識を必要としているという限界を是正すること。
• 信号統計が未知である場合に適応可能な普遍的回復フレームワークを構築し、信号とその背後にある複雑さを一度の推論プロセスで同時に推定すること。
• 信号構造が事前に不明な線形逆問題において、特に非スパースまたは低複雑度の信号源に対してロバストな信号推定を可能にすること。
• 複雑さマッチング事前分布を用いた普遍的MAP推定の実現可能性と性能を理論的および実験的に検証すること。

提案手法

• コルモゴロフ・コンプレックスィティと最小記述長（MDL）の原則に由来する普遍的事前分布を用いた最大後確信度（MAP）推定フレームワークを定式化する。
• 非一様マルコフ連鎖モンテカルロ（MCMC）アルゴリズムを用い、信号の事後分布からのサンプリングを実行する。
• 信号の複雑さに基づくエネルギー関数を用いた遷移確率を定義し、混合性と収束性を向上させるために温度スケーリングを適応的に制御する。
• 信号の構造を定量化する複雑さに配慮したエネルギー関数 Ψ^H_q を導入し、MCMCの探索を低複雑度かつ高事後確率状態に誘導する。
• 後続の探索を段階的に制限し、事後分布のモードに収束させるために、シミュレーテッド・アニーリングに類似した温度スケジュール s_t = t^(1/c) を適用する。
• 信号成分をブロック単位で逐次更新するギブスサンプリング戦略を用いることで、MCMC連鎖の詳細バランス性とエルゴディシティを保証する。

実験結果

リサーチクエスチョン

• RQ1 圧縮センシングにおいて、事前に定義されたスパarsityや可圧縮性仮定に依存しない普遍的信号推定フレームワークを設計可能か？
• RQ2 信号の内在的複雑さにマッチする普遍的事前分布を用いたMAP推定器により、正確な信号再構成が達成可能か？
• RQ3 複雑さマッチング事前分布を用いた普遍的圧縮センシングにおいて、MCMCベースの推論を計算的に実行可能かつ効率的に可能にする方法は何か？
• RQ4 本手法は、スパースでない、または可圧縮でない信号において、標準的なスパarsityに基づく回復アルゴリズムを上回る性能を示せるか？
• RQ5 本手法で用いられるMCMCアルゴリズムの収束について、理論的保証を提供できるか？

主な発見

• 提案されたMCMCベースの普遍的MAP推定器は、非一様マルコフ連鎖の弱および強エルゴディシティを保証することにより、普遍的圧縮センシングのアルゴリズム的実現可能性を達成する。
• 理論的解析により、提案された温度スケジュール下でMCMC連鎖が強エルゴディックであることが証明され、事後分布のモードへの収束が保証される。
• スパarsityが標準的でない低複雑度信号において、最先端のアルゴリズムと同等またはそれ以上の再構成品質を達成する。
• 実験結果により、特に密度が高く、非スパースな複雑構造を示す信号において、圧縮センシングにおける普遍性の有効性が示された。
• 本フレームワークは、信号長より多くの測定値が必要となる状況を含め、圧縮センシングを越えた広範な線形逆問題に一般化可能である。