[論文レビュー] ECME Thresholding Methods for Sparse Signal Reconstruction

Kun Qiu, A. Dogandzic|arXiv (Cornell University)|Apr 27, 2010

Sparse and Compressive Sensing Techniques参考文献 36被引用数 9

ひとこと要約

本稿は、局所尤度最大値への収束を保証するスパース信号再構成のための確率的ECMEしきい値処理フレームワークを提案し、収束を加速およびスパースネスレベルを特定するための新規アルゴリズム—DOREおよびADORE—を導入する。主な貢献は、従来の制限付き等長性性質（RIP）よりも制限が緩い条件下でも近似的最適または完全な再構成を保証する、新しい最小スパース部分空間商（SSQ）条件の導入である。

ABSTRACT

We propose a probabilistic framework for interpreting and developing hard thresholding sparse signal reconstruction methods and present several new algorithms based on this framework. The measurements follow an underdetermined linear model, where the regression-coefficient vector is the sum of an unknown deterministic sparse signal component and a zero-mean white Gaussian component with an unknown variance. We first derive an expectation-conditional maximization either (ECME) iteration that guarantees convergence to a local maximum of the likelihood function of the unknown parameters for a given signal sparsity level. To analyze the reconstruction accuracy, we introduce the minimum sparse subspace quotient (SSQ), a more flexible measure of the sampling operator than the well-established restricted isometry property (RIP). We prove that, if the minimum SSQ is sufficiently large, ECME achieves perfect or near-optimal recovery of sparse or approximately sparse signals, respectively. We also propose a double overrelaxation (DORE) thresholding scheme for accelerating the ECME iteration. If the signal sparsity level is unknown, we introduce an unconstrained sparsity selection (USS) criterion for its selection and show that, under certain conditions, applying this criterion is equivalent to finding the sparsest solution of the underlying underdetermined linear system. Finally, we present our automatic double overrelaxation (ADORE) thresholding method that utilizes the USS criterion to select the signal sparsity level. We apply the proposed schemes to reconstruct sparse and approximately sparse signals from tomographic projections and compressive samples.

研究の動機と目的

• 反復的ハードしきい値処理（IHT）および正規化IHT（NIHT）の限界、ならびに収束が遅いこと、測定行列のスケーリングに敏感であること、事前に既知のスパースネスレベルに依存することを解決する。
• 統計的推論と尤度最大化を用いてハードしきい値処理手法を解釈および一般化する確率的フレームワークを開発する。
• 制限付き等長性性質（RIP）よりも柔軟で制限が緩い、安定した信号再構成を保証する新しい回復条件「最小スパース部分空間商（SSQ）」を導入する。
• ECME反復を加速するための二重オーバーリラクセーション（DORE）スキームを提案し、不等式スパースネス選択（USS）基準を用いてスパースネスレベルを自動的に選択する。
• USS基準が特定の条件下で、不定線形システムの最もスパースな解を求めるのと等価であることを示す。

提案手法

• 信号が決定論的スパース成分と未知分散のゼロ平均白色ガウスノイズの和である確率的モデルを定式化する。
• 未知パrameterの尤度関数を反復的に最大化する期待-条件付き最大化（ECME）アルゴリズムを導出する。これにより、局所最大値への収束が保証される。
• 最小スパース部分空間商（SSQ）を測定演算子の新たな指標として導入し、RIPを一般化し、より緩い回復条件を可能にする。
• 信号推定値をオーバーリラクセドステップで更新することで、ECME反復の収束を加速する二重オーバーリラクセーション（DORE）しきい値処理スキームを設計する。
• 不等式スパースネス選択（USS）基準を、周辺尤度を最大化することに基づいて提案し、事前の知識なしに最適なスパースネスレベルを自動的に選択する。
• USS基準とDOREスキームを統合した自動二重オーバーリラクセーション（ADORE）手法を開発し、完全に自動化され、高速かつ高精度なスパース信号再構成を実現する。

実験結果

リサーチクエスチョン

• RQ1 反復的ハードしきい値処理手法のための解釈および一般化が可能な確率的フレームワークを構築できるか？
• RQ2 最小スパース部分空間商（SSQ）は、制限付き等長性性質（RIP）よりも柔軟で制限が緩い条件を提供するか、安定した信号再構成を保証するか？
• RQ3 オーバーリラクセオン技術を用いてECMEアルゴリズムの収束を加速できるか、かつ収束性と再構成性能を維持できるか？
• RQ4 不等式スパースネス選択（USS）基準は、適切な条件下で、不定線形システムの最もスパースな解を求めるのと等価であるか？
• RQ5 提案されたADORE手法は、スパースネスレベルの事前知識がなくても、スパースまたはほぼスパースな信号の近似的最適または完全な再構成を達成できるか？

主な発見

• ECMEアルゴリズムは、与えられたスパースネスレベルに対して、尤度関数の局所最大値への収束を保証し、安定した反復的更新を実現する。
• 最小スパース部分空間商（SSQ）が十分に大きい場合、ECME法はスパースまたはほぼスパースな信号を完全または近似的最適に再構成する。
• DOREしきい値処理スキームは、信号更新ステップをオーバーリラクセングすることで収束を加速し、計算効率を向上させる。
• USS基準は周辺尤度を最大化することで最適なスパースネスレベルを選択し、特定の条件下では、不定線形システムの最もスパースな解を求めるのと等価である。
• USSとDOREを統合したADORE手法により、信号スパースネスレベルの事前知識がなくても、自動的かつ高速かつ高精度な再構成が可能になる。
• トモグラフィック投影および圧縮サンプリングに関する数値結果から、提案手法が従来のIHTおよびNIHT変種を上回ることを確認した。再構成精度および収束速度の両面で優れた性能を示した。