[論文レビュー] Analyzing Weighted $\ell_1$ Minimization for Sparse Recovery with Nonuniform Sparse Models\footnote{The results of this paper were presented in part at the International Symposium on Information Theory, ISIT 2009}

Moein Khajehnejad, Weiyu Xu+2 more|arXiv (Cornell University)|Sep 18, 2010

Sparse and Compressive Sensing Techniques参考文献 17被引用数 3

ひとこと要約

本稿は、非一様なスパarsityモデル下でのスパース信号復元のための重み付き $μathtt{1}$ 最適化フレームワークを提案する。このモデルでは、信号の各要素が非ゼロである確率が異なる異なるクラスに属する。グラスマン角度アプローチを用いて、明示的なフェーズ遷移閾値を導出し、最適化された重みが、特にスパース性が信号成分に不均等に分布する場合に、標準的な $μathtt{1}$ 最適化よりも著しく性能向上を達成することを示している。

ABSTRACT

In this paper we introduce a nonuniform sparsity model and analyze the performance of an optimized weighted $\ell_1$ minimization over that sparsity model. In particular, we focus on a model where the entries of the unknown vector fall into two sets, with entries of each set having a specific probability of being nonzero. We propose a weighted $\ell_1$ minimization recovery algorithm and analyze its performance using a Grassmann angle approach. We compute explicitly the relationship between the system parameters-the weights, the number of measurements, the size of the two sets, the probabilities of being nonzero- so that when i.i.d. random Gaussian measurement matrices are used, the weighted $\ell_1$ minimization recovers a randomly selected signal drawn from the considered sparsity model with overwhelming probability as the problem dimension increases. This allows us to compute the optimal weights. We demonstrate through rigorous analysis and simulations that for the case when the support of the signal can be divided into two different subclasses with unequal sparsity fractions, the optimal weighted $\ell_1$ minimization outperforms the regular $\ell_1$ minimization substantially. We also generalize the results to an arbitrary number of classes.

研究の動機と目的

• 標準的な $μathtt{1}$ 最適化が一様なスパース性を仮定しているという限界を克服し、信号内の非一様なスパースパターンに関する事前知識を統合すること。
• 各要素が非ゼロである確率が異なる異なるクラスに属する信号をモデル化し、そのような事前知識が利用可能な場合に、より正確な復元を可能にすること。
• 二クラス非一様スパースモデル下での重み付き $μathtt{1}$ 最適化のフェーズ遷移閾値に対する閉形式の式を導出すること。
• 結果を任意の数のクラスに一般化し、衛星画像などの実世界データを用いて手法を検証すること。
• 最適化された重みが、復元性能において標準的な $μathtt{1}$ 最適化を著しく上回ることを実証すること。

提案手法

• 本稿では、信号要素が $u$ 個のクラスに分けられ、各クラスが非ゼロである確率 $p_i$ を持つ非一様スパースモデルを導入する。
• 各クラス固有のスパース性確率に基づき、異なる信号成分に異なる重みを割り当てる重み付き $μathtt{1}$ 最適化問題を定式化する。
• グラスマン角度アプローチを用いて、高い確率で成功した復元が達成されるために必要な最小測定数を決定する理論的フェーズ遷移閾値を導出する。
• スパース性割合とクラスサイズをバランスさせることで、復元閾値を最大化する最適な重みを計算する。
• グラスマン角度解析を複数の重みグループに拡張することで、$u > 2$ クラスへのフレームワークの一般化を実現する。
• i.i.d. ガウス測定行列下でのシミュレーションおよび衛星画像差分の実世界実験により、理論的発見の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 事前知識として非一様なスパース性が得られる場合、重み付き $μathtt{1}$ 最適化は標準的な $μathtt{1}$ 最適化よりも優れた復元性能を達成できるか？
• RQ2 二クラス非一様スパースモデル下での重み付き $μathtt{1}$ 最適化の明示的フェーズ遷移閾値は何か？
• RQ3 システムパラメータ（重み、測定数、クラスサイズ、スパース性割合）は、復元性能にどのように影響するか？
• RQ4 理論的フレームワークは二つ以上のクラスの非一様スパース性に拡張可能か？
• RQ5 画像差分のような実世界の可圧縮信号において、重み付き $μathtt{1}$ アプローチは、どの程度復元性能を向上させるか？

主な発見

• 二クラス非一様スパースモデルにおいて、重み付き $μathtt{1}$ 最適化のフェーズ遷移閾値に対する閉形式の式が導出された。
• 最適な重みは、特にクラス間のスパース性割合に顕著な差がある場合に、標準的な $μathtt{1}$ 最適化を上回る復元閾値を達成するように計算された。
• ガウス分布、一様分布、レイリー分布に従う非ゼロ要素を有する合成信号におけるシミュレーションでは、最適化された重みを用いることで弱閾値における復元性能が20%以上向上した。
• 衛星画像差分の実世界実験では、複数の測定比において、重み付き $μathtt{1}$ 最適化が標準的な $μathtt{1}$ 最適化よりも顕著に低い平均復元誤差を達成した。
• 識別可能なスパース性クラスの数が増えるほど、復元のパcent gain が増加する傾向にあり、多クラスモデルにおいてさらなる向上が期待できる。
• 理論的フレームワークにより、非ゼロ要素がガウス分布に従うことが既知の場合に、標準的な $μathtt{1}$ 最適化を理論的に上回る反復的再重み付け $μathtt{1}$ アルゴリズムの設計が可能になった。