[論文レビュー] Multiple Measurement Vectors Problem: A Decoupling Property and its Applications

Saeid Haghighatshoar, Giuseppe Caire|arXiv (Cornell University)|Oct 31, 2018

Sparse and Compressive Sensing Techniques参考文献 22被引用数 4

ひとこと要約

本稿は、複数測定ベクトル（MMV）問題におけるℓ₂,₁-正則化最小二乗法（ℓ₂,₁-LS）について、信号の共分散推定フェーズと個々の信号再構成フェーズに分離可能なデカップリング性質を確立した。この分解により、信号相関や辞書不一致が性能に与える影響を正確に分析でき、ℓ₂,₁-LSを凌駕するより優れたMMVアルゴリズムの設計が可能になった。

ABSTRACT

We study a Compressed Sensing (CS) problem known as Multiple Measurement Vectors (MMV) problem, which arises in joint estimation of multiple signal realizations when the signal samples have a common (joint) sparse support over a fixed known dictionary. Although there is a vast literature on the analysis of MMV, it is not yet fully known how the number of signal samples and their statistical correlations affects the performance of the joint estimation in MMV. Moreover, in many instances of MMV the underlying sparsifying dictionary may not be precisely known, and it is still an open problem to quantify how the dictionary mismatch may affect the estimation performance. In this paper, we focus on $\ell_{2,1}$-norm regularized least squares ($\ell_{2,1}$-LS) as a well-known and widely-used MMV algorithm in the literature. We prove an interesting decoupling property for $\ell_{2,1}$-LS, where we show that it can be decomposed into two phases: i) use all the signal samples to estimate the signal covariance matrix (coupled phase), ii) plug in the resulting covariance estimate as the true covariance matrix into the Minimum Mean Squared Error (MMSE) estimator to reconstruct each signal sample individually (decoupled phase). As a consequence of this decomposition, we are able to provide further insights on the performance of $\ell_{2,1}$-LS for MMV. In particular, we address how the signal correlations and dictionary mismatch affects its performance. Moreover, we show that by using the decoupling property one can obtain a variety of MMV algorithms with performances even better than that of $\ell_{2,1}$-LS. We also provide numerical simulations to validate our theoretical results.

研究の動機と目的

• 複数測定ベクトル（MMV）問題において、信号サンプルの数とその統計的相関が共同推定性能に与える影響を理解すること。
• 真のスパース化辞書が完全に把握されていない状況下で、ℓ₂,₁-LSの性能に辞書不一致が与える影響を定量化すること。
• 新たなデカップリング分解を通じて、ℓ₂,₁-LSの性能を理論的に分析する基盤を確立すること。
• デカップリング性質を活用して、ℓ₂,₁-LSを上回る再構成精度を達成する改良されたMMVアルゴリズムを設計すること。

提案手法

• ℓ₂,₁-LSが、(i) すべての信号サンプルを用いた信号共分散行列の共同推定フェーズと、(ii) 評価された共分散を用いたMMSEによる個々の信号再構成フェーズに分解可能であることを証明する。
• 行列の逆行列および行列式の恒等式（例えば、ランク1更新）を用いて、双対変数ベクトルγに関する目的関数の微分の閉形式表現を導出する。
• 座標単位の勾配降下法を用いて双対変数ベクトルγを最適化し、各座標更新における最適ステップサイズを二分法を用いて求める。
• コスト関数gₖ(d)の双対変数増分dに関する微分を導出し、g′ₖ(d) = 0の最大根を最適更新方向として特定する。
• 双対変数の非負性制約を満たすために、d* = max{d₀, -γₖ}と設定する。ここでd₀はg′ₖ(d) = 0の最大解である。
• デカップリング構造を活用して、信号相関や辞書不一致の変動に伴う性能分析を行い、向上したMMVアルゴリズムの設計を実施する。

実験結果

リサーチクエスチョン

• RQ1 信号サンプルの数とその統計的相関は、MMV問題におけるℓ₂,₁-LSの性能にどのように影響を与えるか？
• RQ2 真のスパース化辞書が完全に把握されていない状況下で、辞書不一致はℓ₂,₁-LSの推定精度にどのような影響を与えるか？
• RQ3 ℓ₂,₁-LSアルゴリズムは、共分散行列の共同推定と個々の信号再構成に分離可能な二段階的プロセスに分解可能か？
• RQ4 デカップリング性質は、ℓ₂,₁-LSを上回る性能を示すMMVアルゴリズムの設計を可能にするか？
• RQ5 座標単位の勾配降下法と二分法を用いたステップサイズ選択により、ℓ₂,₁-LSの双対最適化問題をどのように効率的に解けるか？

主な発見

• MMV用のℓ₂,₁-LS推定器はデカップリング性質を有する。具体的には、信号共分散行列の推定（結合的フェーズ）と、推定された共分散を用いたMMSEによる個々の信号再構成（分離的フェーズ）に分解可能である。
• デカップリング性質により、信号相関や辞書不一致が推定性能に与える影響を正確に理論的に分析できるようになった。
• 座標単位の勾配降下法における最適な双対変数更新は、二分法を用いてg′ₖ(d) = 0を解き、その最大根を最小化点として選ぶことで得られる。
• d* = max{d₀, -γ₉}とすることで、双対変数の非負性が保証される。ここでd₀は微分方程式の最大解である。
• 導出された最適化フレームワークにより、ℓ₂,₁-LSの平均二乗誤差を上回る性能を示す新しいMMVアルゴリズムの設計が可能になった。
• 数値シミュレーションにより理論的考察が妥当であることが検証され、デカップリング近似の正確性と提案されたアルゴリズムフレームワークの有効性が確認された。