[论文解读] Distilled Sensing: Adaptive Sampling for Sparse Detection and Estimation

Jarvis Haupt, Rui Castro+1 more|arXiv (Cornell University)|Jan 29, 2010

Sparse and Compressive Sensing Techniques参考文献 17被引用 5

一句话总结

本文提出了提炼感知（Distilled Sensing, DS），一种自适应采样框架，可按顺序分配测量精度，以检测和定位高斯噪声中的稀疏信号。通过动态聚焦资源于有希望的分量，DS 实现了在恒定振幅信号下的可靠检测，以及在振幅任意缓慢增长情况下的定位——其性能显著优于非自适应方法，后者要求信号振幅随维度对数增长。

ABSTRACT

Adaptive sampling results in dramatic improvements in the recovery of sparse signals in white Gaussian noise. A sequential adaptive sampling-and-refinement procedure called Distilled Sensing (DS) is proposed and analyzed. DS is a form of multi-stage experimental design and testing. Because of the adaptive nature of the data collection, DS can detect and localize far weaker signals than possible from non-adaptive measurements. In particular, reliable detection and localization (support estimation) using non-adaptive samples is possible only if the signal amplitudes grow logarithmically with the problem dimension. Here it is shown that using adaptive sampling, reliable detection is possible provided the amplitude exceeds a constant, and localization is possible when the amplitude exceeds any arbitrarily slowly growing function of the dimension.

研究动机与目标

• 研究自适应采样相较于非自适应测量在高维稀疏信号检测与估计中的性能增益。
• 分析序列化、精度自适应的采样策略如何克服非自适应方法在检测弱稀疏信号时的根本性限制。
• 在总精度预算受限的背景下，建立自适应采样下可靠检测与定位的理论阈值。
• 证明自适应采样可在信号振幅远离零的情况下实现可靠检测，且不受问题维度影响。

提出的方法

• 提出一种多阶段自适应采样过程，即提炼感知（DS），其中测量精度根据历史观测结果在各分量间动态分配。
• 将测量过程建模为 $ y_{i,j} = x_i + \gamma_{i,j}^{-1/2} w_{i,j} $，其中 $ \gamma_{i,j} $ 控制精度，可基于先前数据自适应选择。
• 施加总精度预算 $ \sum_j \sum_i \gamma_{i,j} \leq R(p) $，其中 $ R(p) $ 随维度 $ p $ 增加，以确保与非自适应方法的公平比较。
• 采用序列精炼策略，将测量资源集中于显示出非零值证据的分量，从而高效降低不确定性。
• 利用集中不等式和方差界分析阈值规则下的误发现率与非发现率。
• 采用切比雪夫不等式与渐近分析，推导出当信号振幅增长过慢时，误发现比例（FDP）无法收敛至零的条件。

实验结果

研究问题

• RQ1 自适应采样能否在维度 $ p $ 增大时，对恒定振幅分量实现稀疏信号的可靠检测？
• RQ2 与非自适应方法相比，自适应采样下实现可靠定位所需的最小信号振幅是多少？
• RQ3 当信号振幅以任意缓慢的速度增长时，自适应采样的性能如何随问题维度扩展？
• RQ4 在基于阈值的自适应检测中，误发现比例在何种条件下无法收敛至零？
• RQ5 自适应采样能否克服非自适应方法对检测与定位所需对数增长的振幅要求？

主要发现

• 在自适应采样下，当信号振幅超过与问题维度 $ p $ 无关的常数时，可实现可靠检测，而相比之下非自适应方法要求振幅对数增长。
• 当信号振幅增长快于任意缓慢增长函数（如 $ \log^{r} p $，$ r < 1 $）时，自适应采样可实现定位。
• 非自适应方法要求信号振幅随 $ p $ 对数增长才能实现可靠检测与定位，而自适应采样显著放宽了该要求。
• 若信号振幅增长慢于 $ \sqrt{2r \log p} $（$ r < \beta $），则误发现比例（FDP）无法收敛至零，表明在阈值检测下存在可检测性的根本限制。
• 分析表明，当信号振幅增长过慢时，任何阈值程序均无法同时控制误发现率与非发现率，从而确立了可靠推断的必要条件。
• 通过切比雪夫不等式与方差分析导出的理论界证实，自适应采样实现了非自适应采样无法达到的性能增益。