[论文解读] Toeplitz Block Matrices in Compressed Sensing

Florian M. Sebert, Leslie Ying+1 more|ArXiv.org|Mar 5, 2008

Sparse and Compressive Sensing Techniques参考文献 11被引用 8

一句话总结

本文证明，具有块-托普利茨对称结构的结构化随机感知矩阵——块托普利茨矩阵——在压缩感知中能够以高概率精确恢复稀疏信号，其性能与 i.i.d. 和标准托普利茨矩阵相当。关键结果表明，当测量数 $ n $ 按 $ c_1 l m \ln(N/m) $ 的方式缩放时，其中 $ l $ 为每列的块数，此类矩阵以高概率满足阶数为 $ 3m $ 的限制等距性（RIP）。

ABSTRACT

Recent work in compressed sensing theory shows that $n imes N$ independent and identically distributed (IID) sensing matrices whose entries are drawn independently from certain probability distributions guarantee exact recovery of a sparse signal with high probability even if $n\ll N$. Motivated by signal processing applications, random filtering with Toeplitz sensing matrices whose elements are drawn from the same distributions were considered and shown to also be sufficient to recover a sparse signal from reduced samples exactly with high probability. This paper considers Toeplitz block matrices as sensing matrices. They naturally arise in multichannel and multidimensional filtering applications and include Toeplitz matrices as special cases. It is shown that the probability of exact reconstruction is also high. Their performance is validated using simulations.

研究动机与目标

• 研究具有多通道和多维滤波自然特性的块托普利茨矩阵是否可作为有效的压缩感知矩阵。
• 将 i.i.d. 和标准托普利茨矩阵的先前结果扩展至适用于多通道信号处理的结构化块矩阵。
• 在限制等距性（RIP）框架下，为使用块托普利茨感知矩阵精确恢复稀疏信号建立理论保证。
• 通过数值模拟验证理论结果，将性能与 i.i.d. 和标准托普利茨矩阵进行比较。

提出的方法

• 构建块托普利茨矩阵 $\Phi$，其由 $d \times e$ 的块 $\Phi_i$ 组成，块内元素从 $\mathcal{N}(0, 1/n)$、Rademacher 分布或有界对称分布中独立同分布抽取。
• 证明在特定测量缩放条件下，此类矩阵以高概率满足阶数为 $3m$ 的限制等距性（RIP）：当 $l \leq 3m(3m-1)$ 时，$n \geq c_1 l m \ln(N/m)$；当 $l > 3m(3m-1)$ 时，$n \geq c_1 m^3 \ln(N/m)$。
• 利用概率集中性论证，控制子矩阵 $\Phi_T$ 的奇异值偏离单位值的程度，从而确保以高概率满足 RIP。
• 分析 Gram 矩阵 $\Psi_T^T \Psi_T = I + B_T$ 中非对角块的谱范数，证明在稀疏性约束下 $\|B_T\|_2 \leq \delta_{3m} < 1$。
• 通过蒙特卡洛模拟验证理论结果，使用对数障碍求解器从 $n \times N$ 的块托普利茨矩阵、i.i.d. 矩阵和标准托普利茨矩阵中重构稀疏信号。
• 在 $N=2048$、$m=20$ 个非零高斯系数的信号上，对 1000 次试验的恢复成功率进行比较。

实验结果

研究问题

• RQ1 块托普利茨矩阵——其结构可自然建模多通道滤波——是否能在压缩感知中实现与 i.i.d. 和标准托普利茨矩阵相当的高概率稀疏信号精确恢复？
• RQ2 块托普利茨矩阵要以高概率满足阶数为 $3m$ 的限制等距性（RIP），所需的测量数 $n$ 是多少？
• RQ3 每列的块数 $l$ 如何影响块托普利茨矩阵的测量复杂度和恢复性能？
• RQ4 在实际信号重构任务中，块托普利茨矩阵的性能是否与 i.i.d. 和标准托普利茨矩阵相当？
• RQ5 基于有限域上多项式的确定性块托普利茨矩阵是否也能满足有界 $\delta_{3m}$ 的 RIP？

主要发现

• 当 $n \geq c_1 l m \ln(N/m)$ 且 $l \leq 3m(3m-1)$ 时，块托普利茨矩阵以高概率满足阶数为 $3m$ 的限制等距性（RIP），从而确保对 $3m$-稀疏信号的精确恢复。
• 当 $l > 3m(3m-1)$ 时，所需测量数增加至 $n \geq c_1 m^3 \ln(N/m)$，与标准托普利茨矩阵的缩放一致。
• 当 $l \leq 3m(3m-1)$ 时，满足 RIP 的概率至少为 $1 - e^{-c_2 n / l}$；当 $l > 3m(3m-1)$ 时，至少为 $1 - e^{-c_2 n / m^2}$，其中常数 $c_1, c_2 > 0$ 仅依赖于 $\delta_{3m}$。
• 数值模拟表明，块托普利茨矩阵在不同 $n$ 下的实测恢复成功率与 i.i.d. 和标准托普利茨矩阵相当。
• 在 $N=2048$ 的信号上验证了块托普利茨矩阵的性能，其中 $m=20$ 个非零条目，通过机器精度误差衡量重构成功率。
• 基于 $\mathbb{Z}_p$ 上多项式的确定性构造生成矩阵 $\Psi = \frac{1}{\sqrt{sp}} \Psi_0$，其满足 RIP 且 $\delta = (m-1)r/p < 1$，当 $m < p/r + 1$ 时成立。