[論文レビュー] Statistical Mechanical Analysis of Compressed Sensing Utilizing Correlated Compression Matrix

Koujin Takeda, Yoshiyuki Kabashima|arXiv (Cornell University)|Jan 25, 2010

Sparse and Compressive Sensing Techniques参考文献 7被引用数 4

ひとこと要約

本稿は、統計力学を用いて、Kronecker型相関を持つ圧縮行列を用いた $L_1$-ノルム最小化スキームによる圧縮センシングの再構成限界を分析している。強い1次元的相関が展開基底に存在する場合、再構成性能がわずかに劣化し、非相関の場合と比較して臨界圧縮率 $\alpha_c$ が約1%上昇することが判明した。

ABSTRACT

We investigate a reconstruction limit of compressed sensing for a reconstruction scheme based on the L1-norm minimization utilizing a correlated compression matrix with a statistical mechanics method. We focus on the compression matrix modeled as the Kronecker-type random matrix studied in research on multi-input multi-output wireless communication systems. We found that strong one-dimensional correlations between expansion bases of original information slightly degrade reconstruction performance.

研究の動機と目的

• 圧縮行列に相関が存在する場合の $L_1$-ノルム圧縮センシングの再構成限界 $\alpha_c$ を評価すること。
• 従来の i.i.d. 行列解析を、MIMO無線システムにインspiredされた構造的・相関を持つ圧縮行列へと拡張すること。
• 展開基底の相関（$\bm{R}_{\mathrm{t}}$ を通じて）が再構成性能に与える影響を調査すること。
• 数値実験と外挿を用いてレプリカ法の結果を検証すること。

提案手法

• 統計力学のレプリカ法を用いて、 quenched 自由エネルギーを計算し、$L_p$-ノルム再構成のコスト関数を導出する。
• 圧縮行列を $\bm{F} = \sqrt{\bm{R}_{\mathrm{r}}}\bm{\Xi}\sqrt{\bm{R}_{\mathrm{t}}}$ としてモデル化し、$\bm{\Xi}$ を i.i.d. ガウス分布、$\bm{R}_{\mathrm{t}}, \bm{R}_{\mathrm{r}}$ を相関行列とする。
• $N, P \to \infty$ の極限において、固定された $\alpha = P/N$ を前提とし、$L_1$-ノルムの場合に注目して漸近的解析を実施する。
• コスト関数式に含まれる多重積分を100サンプルの数値積分により評価する。
• MATLABを用いた凸最適化実験により結果を検証し、2次回帰を用いて $\alpha_c$ を $N \to \infty$ の極限に外挿する。

実験結果

リサーチクエスチョン

• RQ1 元信号の展開基底に相関がある場合、圧縮センシングにおける $L_1$-ノルム再構成限界にどのように影響を与えるか？
• RQ2 Kronecker型相関を持つ圧縮行列に対する臨界圧縮率 $\alpha_c$ は何か？
• RQ3 観測ベクトル（$\bm{R}_{\mathrm{r}}$）の相関が再構成性能に顕著に影響を与えるか？
• RQ4 相関を持つと相関のない圧縮行列と比較して、再構成限界はどのように異なるか？

主な発見

• 展開基底の相関パラメータ $r$ が三重対角行列 $\bm{R}_{\mathrm{t}}$ で 0.5 に達するとき、再構成限界 $\alpha_c$ は約1%上昇し、性能劣化が示された。
• $\rho = 0.5$ の場合、非相関ケースの $\alpha_c \approx 0.8312$ から、強い相関（$r=0.5$）下での $\alpha_c = 0.84057(14)$ に上昇した。
• レプリカ解析による結果 $\alpha_c = 0.84057(14)$ は、数値実験により検証され、$N \to \infty$ の極限における外挿結果として $\alpha_c = 0.84017(28)$ が得られた。
• 観測ベクトルの相関を記述する相関行列 $\bm{R}_{\mathrm{r}}$ は再構成限界に影響を及ぼさない。これは $\bm{\Xi}$ の再定義により吸収可能であるためである。
• $L_1$-ノルム再構成は弱い相関に対しては頑健であるが、展開基底に強い1次元的相関がある場合には顕著な性能劣化を示す。
• 本分析フレームワークは、相関のある元の係数と相関のない基底を記述するように再解釈可能であり、同じ臨界率を保つ。