[论文解读] Infinite-dimensional $\ell^1$ minimization and function approximation from pointwise data

Ben Adcock|arXiv (Cornell University)|Mar 9, 2015

Probabilistic and Robust Engineering Design参考文献 28被引用 7

一句话总结

本文提出了一种无限维的 $ι^1$ 最小化框架，用于从点值数据近似光滑函数，无需事先知道截断误差界，并确保插值解。证明了使用雅可比多项式加权 $ι^1$ 最小化可实现对光滑一维函数从散乱数据中近似的最优收敛速率。

ABSTRACT

We consider the problem of approximating a smooth function from finitely-many pointwise samples using $\ell^1$ minimization techniques. In the first part of this paper, we introduce an infinite-dimensional approach to this problem. Three advantages of this approach are as follows. First, it provides interpolatory approximations in the absence of noise. Second, it does not require extit{a priori} bounds on the expansion tail in order to be implemented. In particular, the truncation strategy we introduce as part of this framework is independent of the function being approximated, provided the function has sufficient regularity. Third, it allows one to explain the key role weights play in the minimization; namely, that of regularizing the problem and removing aliasing phenomena. In the second part of this paper we present a worst-case error analysis for this approach. We provide a general recipe for analyzing this technique for arbitrary deterministic sets of points. Finally, we use this tool to show that weighted $\ell^1$ minimization with Jacobi polynomials leads to an optimal method for approximating smooth, one-dimensional functions from scattered data.

研究动机与目标

• 为解决有限维 $ι^1$ 最小化中的局限性，例如依赖于先验截断误差估计以及非插值解。
• 开发一种框架，确保插值近似，而无需了解展开尾部的信息。
• 阐明权重在正则化和混叠抑制中的作用。
• 为任意确定性点集提供最坏情况误差分析。
• 证明加权 $ι^1$ 最小化结合雅可比多项式可成为光滑一维函数近似的最优方法。

提出的方法

• 引入无限维 $ι^1$ 最小化问题，在希尔伯特空间设置下直接近似完整的系数向量。
• 提出一种基于用户定义参数 $K$ 的截断策略，将无限问题转化为有限维问题。
• 使用加权 $ι^1$ 最小化，权重选择用于正则化问题并抑制混叠。
• 应用适用于任意确定性点集的最坏情况误差分析框架，从而获得理论误差界。
• 采用雅可比多项式作为基函数，因其具有有利的渐近性质和正交性。
• 利用微分方程和雅可比多项式的渐近估计，推导出导数和系数的 $L^∞$ 范数的界。

实验结果

研究问题

• RQ1 能否构建一个无限维 $ι^1$ 最小化框架，以避免对展开尾部的先验知识？
• RQ2 在无噪声情况下，该框架是否能产生插值近似？
• RQ3 最小化问题中的权重如何影响正则化和混叠抑制？
• RQ4 能否为任意确定性点集的加权 $ι^1$ 最小化推导出最坏情况误差界？
• RQ5 加权 $ι^1$ 最小化结合雅可比多项式是否为从散乱数据中近似光滑一维函数的最优方法？

主要发现

• 无限维 $ι^1$ 最小化框架在无噪声数据下产生插值近似，而有限维方法不具备此特性。
• 所提出的截断策略独立于待近似的函数，仅依赖于函数的正则性与用户定义的 $K$。
• 最小化中的权重在正则化和消除混叠中起关键作用，尤其在非均匀采样情况下。
• 最坏情况误差分析框架适用于任意确定性点集，从而在非随机采样下也能提供理论保证。
• 加权 $ι^1$ 最小化结合雅可比多项式可实现光滑一维函数从散乱数据中近似的最优收敛速率。
• 推导出雅可比多项式及其导数的 $L^∞$ 范数的渐近界，支持理论分析。