[论文解读] Estimation of block sparsity in compressive sensing

Zhiyong Zhou, Jun Yu|arXiv (Cornell University)|Jan 4, 2017

Sparse and Compressive Sensing Techniques参考文献 39被引用 10

一句话总结

本文提出了一种基于多变量中心对称稳定 $\alpha$-稳定随机投影的压缩感知中块稀疏性的新型估计器。它引入了一个软性度量 $k_{\alpha}(\mathbf{x}) = \left(\|\mathbf{x}\|_{2,\alpha}/\|\mathbf{x}\|_{2,1}\right)^{\alpha/(1-\alpha)}$，并建立了该估计器的极限分布，从而实现对块稀疏性准确估计，这对于恢复性能和算法调优至关重要。

ABSTRACT

Explicitly using the block structure of the unknown signal can achieve better reconstruction performance in compressive sensing. Theoretically, an unknown signal with block structure can be accurately recovered from a few number of under-determined linear measurements provided that it is sufficiently block sparse. From the practical point of view, a severe concern is that the block sparse level appears often unknown. In this paper, we introduce a soft measure of block sparsity $k_α(\mathbf{x})=\left(\lVert\mathbf{x} Vert_{2,α}/\lVert\mathbf{x} Vert_{2,1} ight)^{\fracα{1-α}}$ with $α\in[0,\infty]$, and propose an estimation procedure by using multivariate centered isotropic symmetric $α$-stable random projections. The limiting distribution of the estimator is established. Simulations are conducted to illustrate our theoretical results.

研究动机与目标

• 为压缩感知中信号的块稀疏度水平通常在实际中未知这一关键挑战提供解决方案。
• 开发一种数值稳定且鲁棒的块稀疏性估计器，适用于先验知识有限的实际应用场景。
• 建立所提估计器的理论极限分布，以确保统计可靠性。
• 将特征函数方法从单变量推广至多变量对称 $\alpha$-稳定分布，用于块稀疏性估计。
• 为调优块匹配匹配追踪（block OMP）和组Lasso等恢复算法提供实用工具，通过估计真实的块稀疏度水平。

提出的方法

• 为 $\alpha \in (0,1)$ 引入块稀疏性的软性度量 $k_{\alpha}(\mathbf{x}) = \left(\|\mathbf{x}\|_{2,\alpha}/\|\mathbf{x}\|_{2,1}\right)^{\alpha/(1-\alpha)}$，作为离散块 $\ell_0$-范数的连续近似。
• 采用多变量中心对称稳定 $\alpha$-稳定随机投影，生成信号的测量投影。
• 利用多变量 $\alpha$-稳定分布的特征函数，推导出 $k_{\alpha}(\mathbf{x})$ 的估计方程。
• 应用 delta 方法与渐近分析，在较弱正则性条件下推导估计器的极限分布。
• 建立 $k_u(\mathbf{x})$ 关于 $u$ 的导数的理论界，以控制估计误差。
• 结合浓度不等式与涉及块动态范围 $\mathrm{BDNR}(\mathbf{x}) = \|\mathbf{x}\|_{2,\infty}/\|\mathbf{x}\|_{2,\mathrm{min}}$ 的矩界，确保收敛性。

实验结果

研究问题

• RQ1 能否利用稳定随机投影构造出鲁棒且一致的块稀疏性估计器？
• RQ2 在多变量 $\alpha$-稳定投影下，所提块稀疏性估计器的极限分布为何？
• RQ3 估计误差 $k_{\alpha}(\mathbf{x})$ 如何随信号结构和 $\alpha$ 变化而变化？
• RQ4 所提估计器在块稀疏设置下相较于现有稀疏性估计方法的改进程度如何？
• RQ5 能否在多变量 $\alpha$-稳定框架下，利用特征函数方法严格建立估计器的理论性质？

主要发现

• 在多变量 $\alpha$-稳定投影模型下，所提块稀疏性估计器 $\tilde{k}_{\alpha}(\mathbf{x})$ 是一致且渐近正态的。
• 推导出估计器的极限分布，从而可构建置信区间并进行块稀疏性的假设检验。
• 估计误差被界为 $O\left(\frac{\|\mathbf{x}\|_{2,0}}{(1-\alpha)^2} \left(\ln(\mathrm{BDNR}(\mathbf{x})) + \alpha \ln(\|\mathbf{x}\|_{2,0})\right)\right)$，表明其对信号结构和 $\alpha$ 的依赖性。
• 通过熵型表达式与概率权重，推导出 $\left|\frac{d}{du}k_u(\mathbf{x})\right|$ 的界，确保稀疏性度量的平滑性。
• 仿真结果验证了理论结果，表明在各种信号配置下，块稀疏性估计具有高精度与稳定性。
• 该方法为块稀疏性的真实知识提供了实用替代方案，尤其在调优块稀疏恢复算法方面具有显著优势。