[论文解读] Infinite-dimensional compressed sensing and function interpolation

Ben Adcock|arXiv (Cornell University)|Sep 20, 2015

Sparse and Compressive Sensing Techniques参考文献 41被引用 4

一句话总结

本文提出了一种基于加权 ℓ¹ 最小化的无限维压缩感知框架，用于函数插值，可在无需对展开尾部施加先验界的情况下实现可证明的插值逼近。该框架建立了精确的恢复保证，当系数表现出通过下集实现的结构化稀疏性时，可实现多变量多项式逼近的最优测量数量。

ABSTRACT

We introduce and analyze a framework for function interpolation using compressed sensing. This framework - which is based on weighted $\ell^1$ minimization - does not require a priori bounds on the expansion tail in either its implementation or its theoretical guarantees, and in the absence of noise leads to genuinely interpolatory approximations. We also establish a new recovery guarantee for compressed sensing with weighted $\ell^1$ minimization based on this framework. This guarantee has several key benefits. First, unlike existing results, it is sharp (up to constants and log factors) for large classes of functions regardless of the choice of weights. Second, by examining the measurement condition in the recovery guarantee, we are able to suggest a good overall strategy for selecting the weights. In particular, when applied to the important case of multivariate approximation with orthogonal polynomials, this weighting strategy leads to provably optimal estimates on the number of measurements required, whenever the support set of the significant coefficients is a so-called lower set. Finally, this guarantee can also be used to theoretically confirm the benefits of alternative weighting strategies where the weights are chosen based on prior support information. This provides a theoretical basis for a number of recent numerical studies showing the effectiveness of such approaches.

研究动机与目标

• 解决从有限点采样中逼近高维光滑函数的挑战，采用压缩感知方法。
• 克服现有压缩感知方法的局限性，这些方法需要对展开尾部施加先验界，或无法处理无限维函数空间。
• 开发一个理论基础坚实的框架，实现真正插值的逼近，而无需截断尾部。
• 确定加权 ℓ¹ 最小化中可最小化测量需求的最优加权策略，特别适用于多变量多项式逼近。
• 为支持感知加权策略在函数逼近中先前的经验成功提供理论依据。

提出的方法

• 在离散化之前，将函数逼近问题表述为无限维空间中的加权 ℓ¹ 最小化。
• 基于新型恢复保证，采用改进的高尔夫球方案，适用于具有通用权重的无限维设置。
• 推导出恢复保证在何种条件下对大量函数和权重类是精确的（至多常数因子和对数因子）。
• 提出一种可最小化所需测量数的加权策略，尤其在系数支持为下集时效果显著。
• 将抽象恢复保证应用于验证支持感知加权策略，为经验观察提供理论支持。
• 采用集中不等式和概率论方法，界定恢复过程中失败概率的上界。

实验结果

研究问题

• RQ1 压缩感知能否在不截断展开尾部的前提下，有效扩展至无限维函数空间？
• RQ2 在加权 ℓ¹ 最小化中，何种加权策略可最优地减少多变量函数逼近所需的测量数？
• RQ3 如何利用结构化稀疏性（特别是系数支持中的下集）实现最优采样复杂度？
• RQ4 能否为在经验上已取得成功但尚未有理论支持的感知加权策略建立理论保证？
• RQ5 所提出的框架在无噪声情况下是否能产生真正插值的逼近？

主要发现

• 所提框架在无噪声情况下实现了插值逼近，相较于截断方法具有显著优势。
• 恢复保证对一大类函数和权重是精确的（至多常数因子和对数因子），而以往结果在某些情形下为次优。
• 对于正交多项式基下的多变量逼近，当系数支持为下集时，所提加权策略可实现可证明的最优测量数量。
• 该框架首次为支持感知加权策略提供了理论依据，证实了其在实践中的优势。
• 测量复杂度在下集假设下可缓解维度灾难，实现近似最优采样率。
• 理论分析确认，在下集条件下，测量数随稀疏度和维度的增加实现最优增长。