[论文解读] On sparse interpolation and the design of deterministic interpolation points

Zhiqiang Xu, Tao Zhou|arXiv (Cornell University)|Aug 28, 2013

Sparse and Compressive Sensing Techniques参考文献 28被引用 6

一句话总结

本文提出了一种在高维稀疏插值中使用切比雪夫基的确定性方法，用于设计插值点，其性能与随机采样相当。通过利用数论构造方法构建唯一可解点集，并分析互不相干性，该方法在 $M$ 为素数时，利用 $m \gtrsim 9/2 \cdot 4^q d^2 s^2$ 个点，可通过 $\beta_1$ 最小化实现对 $s$-稀疏函数的精确恢复。

ABSTRACT

In this paper, we build up a framework for sparse interpolation. We first investigate the theoretical limit of the number of unisolvent points for sparse interpolation under a general setting and try to answer some basic questions of this topic. We also explore the relation between classical interpolation and sparse interpolation. We second consider the design of the interpolation points for the $s$-sparse functions in high dimensional Chebyshev bases, for which the possible applications include uncertainty quantification, numerically solving stochastic or parametric PDEs and compressed sensing. Unlike the traditional random sampling method, we present in this paper a deterministic method to produce the interpolation points, and show its performance with $\ell_1$ minimization by analyzing the mutual incoherence of the interpolation matrix. Numerical experiments show that the deterministic points have a similar performance with that of the random points.

研究动机与目标

• 建立在一般设定下，对 $s$-稀疏插值所需最少唯一可解点数的理论极限。
• 通过分析唯一可解性条件，弥合经典插值与稀疏插值之间的差距。
• 设计确定性插值点，以确保在高维切比雪夫基下对 $s$-稀疏函数实现稳定且精确的恢复。
• 证明确定性点在稀疏恢复任务中的性能可与随机采样相媲美。

提出的方法

• 使用数论方法构造插值点，特别利用素数和模运算生成结构化的点集 $\Theta_M$。
• 通过在确定性点 $x_j \in \Theta_M$ 处对多元切比雪夫基函数 $\mathbf{\Phi}_{\mathbf{n}}$ 的取值定义插值矩阵 $\mathbf{A}$，确保其列具有单位 $\ell_2$ 范数。
• 分析插值矩阵 $\mathbf{A}$ 的互不相干性，以保证通过 $\ell_1$ 最小化实现稳定恢复。
• 应用逼近理论和压缩感知中的理论工具，推导出实现唯一可解性和稳定恢复所需点数的上界。
• 使用对角缩放矩阵 $\mathbf{C}$ 对 $\mathbf{A}$ 的列进行标准化，以改善其条件数和不相干性特性。
• 在 MATLAB 中使用 SPGL1 求解器数值求解 $\ell_1$ 最小化问题，并比较确定性点与随机采样的性能。

实验结果

研究问题

• RQ1 在一般基设定下，$s$-稀疏插值所需的理论最小唯一可解点数是多少？
• RQ2 能否构造出确定性插值点，使其通过 $\ell_1$ 最小化确保对 $s$-稀疏函数实现稳定且精确的恢复？
• RQ3 插值矩阵的互不相干性如何影响确定性点与随机点在恢复性能上的表现？
• RQ4 在唯一可解性和点集设计方面，经典插值与稀疏插值之间存在何种关系？
• RQ5 在高维不确定性量化和压缩感知中，确定性点集能否实现与随机采样相当的性能？

主要发现

• 当 $M$ 为素数时，确定性点集 $\Theta_M$ 在 $m \geq \frac{9}{2} \cdot 4^q d^2 s^2 + 1$ 个点下，可通过 $\ell_1$ 最小化实现对 $s$-稀疏函数的稳定恢复。
• 理论分析表明 $\|\mathbf{c}^\# - \mathbf{c}\|_2 \lesssim \frac{\sigma_{s,1}(\mathbf{c})}{\sqrt{s}}$，表明对一般 $s$-稀疏函数具有稳定恢复能力。
• 数值实验表明，确定性点在低维和高维 TP 与 TD 切比雪夫空间中的性能与随机采样相当。
• 对于 $d=2, q=9, m=49$ 和 $d=3, q=6, m=69$ 的情形，确定性点在 100 次试验中的成功率与随机点一致。
• 当 $M \equiv 1 \pmod{4}$ 时，点 $\mathbf{p}_j$ 的第一个坐标对应于切比雪夫节点，表明其自然扩展了经典网格。
• 该方法为压缩感知和不确定性量化中的随机采样提供了具有可证明恢复保证的确定性替代方案。