[論文レビュー] On the Support Recovery of Jointly Sparse Gaussian Sources using Sparse Bayesian Learning

Saurabh Khanna, Chandra R. Murthy|arXiv (Cornell University)|Mar 15, 2017

Sparse and Compressive Sensing Techniques参考文献 50被引用数 8

ひとこと要約

本稿は、複数測定ベクトル（MMV）問題におけるスパースベイジアン学習（SBL）を用いて、共同にスパースなガウス源の正確なサポート復元について、非漸近的かつ確率的な保証を提供する。共通スパース性を促進する事前分布の下で分散ハイパーパrameterのマージナライズド最尤推定（タイプ-II ML）が、制限された特異値および核空間条件を満たすセンシング行列のもとで、非ゼロ行数 $k$ が測定数 $m$ を超える場合であっても、誤差確率が指数関数的に減少するように、完全なサポート復元を保証することを確立する。

ABSTRACT

In this work, we provide non-asymptotic, probabilistic guarantees for successful recovery of the common nonzero support of jointly sparse Gaussian sources in the multiple measurement vector (MMV) problem. The support recovery problem is formulated as the marginalized maximum likelihood (or type-II ML) estimation of the variance hyperparameters of a joint sparsity inducing Gaussian prior on the source signals. We derive conditions under which the resulting nonconvex constrained optimization perfectly recovers the nonzero support of a joint-sparse Gaussian source ensemble with arbitrarily high probability. The support error probability decays exponentially with the number of MMVs at a rate that depends on the smallest restricted singular value and the nonnegative null space property of the self Khatri-Rao product of the sensing matrix. Our analysis confirms that nonzero supports of size as high as O($m^2$) are recoverable from $m$ measurements per sparse vector. Our derived sufficient conditions for support consistency of the proposed constrained type-II ML solution also guarantee the support consistency of any global solution of the multiple sparse Bayesian learning (M-SBL) optimization whose nonzero coefficients lie inside a bounded interval. For the case of noiseless measurements, we further show that a single MMV is sufficient for perfect recovery of the $k$-sparse support by M-SBL, provided all subsets of $k + 1$ columns of the sensing matrix are linearly independent.

研究の動機と目的

• 共同スパースなガウス源のサポートが、MMV問題において正確に復元可能となる非漸近的かつ確率的な条件を確立すること。
• タイプ-II最尤推定を用いた制約付き多重スパースベイジアン学習（M-SBL）最適化のサポート一貫性を分析すること。
• サポート誤差確率がMMVの数が増加するにつれて指数関数的に減少することを保証する十分条件を導出すること。
• M-SBLの任意のグローバル解の非ゼロ係数が有界区間内にある場合、その解のサポート一貫性が保証されることを確認すること。
• すべての $k+1$ 列の部分集合が線形独立である限り、ノイズなしの場合に1つのMMVで十分に完全なサポート復元が達成されることを示すこと。

提案手法

• ソース信号に共通スパース性を促進するガウス事前分布を導入し、その分散ハイパーパrameterのマージナライズド最尤推定（タイプ-II ML）としてサポート復元問題を定式化する。
• ハイパーパrameter推定を活用してスパarsityを強制する非凸な制約付き最適化問題を導出する。この手法はSBLの階層ベイジアンモデルに基づく。
• センシング行列の自己カトリ＝ラオ積の最小制限特異値および非負の核空間性質を用いて、解のサポート一貫性を分析する。
• 測定空間の直交分解と固有値解析に基づく幾何的議論を導入し、事後精度行列の最小固有値を評価する。
• 背理法を用いて、サポートが誤って推定された場合、$ ext{spark}(\mathbf{A})-1$ 個を超える列の線形従属を示す行列が得られることを示し、スパーク条件に反することを証明する。
• 事後精度行列の最小固有値に対する下界を確立し、最適化において真のサポートが優遇されることを保証する。

実験結果

リサーチクエスチョン

• RQ1 SBLにおけるマージナライズド最尤推定が、共同スパースなガウス源の共通サポートを完全に復元する条件は何か？
• RQ2 非ゼロ行数 $k$ が測定数 $m$ を超える場合でも、サポート復元が保証可能か？
• RQ3 MMVの数が増加するにつれて、サポート誤差確率の減少率はどのようになるか？
• RQ4 センシング行列の自己カトリ＝ラオ積の制限特異値および核空間性質が、サポート復元性能に与える影響は何か？
• RQ5 ノイズなしの場合に、1つのMMVで十分に完全なサポート復元が達成可能か？どのような条件下で可能か？

主な発見

• サポート誤差確率は、MMVの数が増加するにつれて指数関数的に減少し、その減少率は自己カトリ＝ラオ積の最小制限特異値および非負の核空間性質に依存する。
• 本手法は、$k = O(m^2)$ であっても、$k < m$ の範囲を超えてサポート復元が可能であることを示しており、正確なサポート復元を保証する。
• ノイズなしの測定において、センシング行列のすべての $k+1$ 列の部分集合が線形独立である限り、1つのMMVで十分にM-SBLによる完全なサポート復元が達成可能である。
• 制約付きタイプ-II ML解のサポート一貫性を保証する導出された十分条件は、非ゼロ係数が有界区間内にある任意のM-SBL最適化のグローバル解に対しても、サポート一貫性を保証する。
• 事後精度行列の最小固有値に対して $c_1 / au^2$ の下界が確立され、$c_1 > 0$ である。これにより、最適化において真のサポートが優遇されることが保証される。
• 解析により、センシング行列が必要な構造的条件を満たしていれば、高スパース度においてもサポート復元性能がロバストであることが確認された。