[论文解读] Adaptive Sensing for Estimation of Structured Sparse Signals

Ervin Tánczos, Rui Castro|arXiv (Cornell University)|Nov 27, 2013

Distributed Sensor Networks and Detection Algorithms被引用 1

一句话总结

本文提出了一种自适应感知框架，用于估计结构化稀疏信号的支撑集，其中测量位置和精度根据先前观测结果逐步选择。通过利用结构先验（例如星形支撑或分组支撑），该方法在总精度预算下，相较于非自适应感知，显著提升了估计精度，并在理论上证明了其在降噪和结构利用方面的近优性。

ABSTRACT

In many practical settings one can sequentially and adaptively guide the collection of future data, based on information extracted from data collected previously. These sequential data collection procedures are known by different names, such as sequential experimental design, active learning or adaptive sensing/sampling. The intricate relation between data analysis and acquisition in adaptive sensing paradigms can be extremely powerful, and often allows for reliable signal estimation and detection in situations where non-adaptive sensing would fail dramatically. In this work we investigate the problem of estimating the support of a structured sparse signal from coordinate-wise observations under the adaptive sensing paradigm. We present a general procedure for support set estimation that is optimal in a variety of cases and shows that through the use of adaptive sensing one can: (i) mitigate the effect of observation noise when compared to non-adaptive sensing and, (ii) capitalize on structural information to a much larger extent than possible with non-adaptive sensing. In addition to a general procedure to perform adaptive sensing in structured settings we present both performance upper bounds, and corresponding lower bounds for both sensing paradigms.

研究动机与目标

• 开发一种自适应感知策略，相较于非自适应方法，提升结构化稀疏信号支撑集的估计性能。
• 正式量化自适应感知在降低噪声影响和利用星形或分组支撑等结构先验方面的增益。
• 为自适应与非自适应感知范式建立估计性能的紧致上下界。
• 提供一种通用且可实现的自适应感知算法，适用于结构化场景，并具备理论性能保证。

提出的方法

• 该框架将信号建模为非零分量幅度相等（均为 µ）的稀疏向量，仅可获得带噪声的坐标测量值。
• 自适应感知允许根据历史观测结果，在每一步选择坐标（Aj）和测量精度（Γj），并受总精度预算 ∑Γj ≤ m 的约束。
• 引入一种通用的支持估计程序，基于似然比和序贯假设检验，自适应地将测量精度分配给最可能属于支撑集的坐标。
• 该方法使用序贯似然比检验决定何时停止对某一坐标进行测量，以在精度与预算约束之间取得平衡。
• 通过瓦尔德不等式和集中不等式推导性能界，分析在不同结构假设下的期望样本量和错误概率。
• 理论分析包括估计误差的上界和样本复杂度的下界，表明所提方法具有近优性。

实验结果

研究问题

• RQ1 在存在噪声的情况下，自适应感知相较于非自适应感知，能在多大程度上提升支撑集估计的准确性？
• RQ2 在自适应感知中，结构信息（例如星形或分组支撑）能被利用到何种程度，以降低估计误差？
• RQ3 在固定精度预算下，自适应与非自适应感知的支撑集估计性能的基本极限（下界）是什么？
• RQ4 所提出的自适应感知程序能否在样本复杂度和错误率方面实现近优性能？

主要发现

• 所提自适应感知程序通过动态分配测量精度，在高噪声条件下显著降低了估计误差，相较于非自适应感知表现更优。
• 自适应感知能有效利用结构先验（如星形或分组支撑模式），实现超越非自适应方法的性能提升。
• 该方法在样本复杂度方面达到近优性，表现为对可靠支撑集恢复所需期望测量数的上下界匹配。
• 对于对称支撑类（如 [n] 中所有 s-子集），最优精度分配在坐标间均匀分布，性能受支撑集类大小和总预算的约束。
• 理论分析确认，可靠检测所需的期望测量数随信噪比和结构约束的提升而有利地增长。
• 当测量精度 Γ → 0 时，自适应程序的性能收敛至理论下界，证实了其渐近最优性。