[论文解读] Sampling recovery in $L_2$ and other norms

David Krieg, Kateryna Pozharska+2 more|arXiv (Cornell University)|May 12, 2023

Mathematical Approximation and Integration被引用 6

一句话总结

该论文通过利用 $L_2$-逼近误差和Christoffel函数，建立了在 $L_p$ 及其他范数下使用函数取值进行线性采样恢复的紧致误差界。证明了在许多再生核Hilbert空间中，线性采样算法在 $L_\infty$ 范数下达到最优性能（至多相差一个常数因子），且误差界与维度无关，采样复杂度近乎最优。

ABSTRACT

We study the recovery of functions in various norms, including $L_p$ with $1\le p\le\infty$, based on function evaluations. We obtain worst case error bounds for general classes of functions in terms of the best $L_2$-approximation from a given nested sequence of subspaces and the Christoffel function of these subspaces. In the case $p=\infty$, our results imply that linear sampling algorithms are optimal up to a constant factor for many reproducing kernel Hilbert spaces.

研究动机与目标

• 建立任意半范数 $G$ 下线性采样恢复的一般最坏情况误差界，将已知的 $L_2$ 结果推广至更广泛函数空间。
• 确定线性采样算法在 $L_\infty$ 和Sobolev型空间中达到最优性能（至多相差一个常数因子）的条件。
• 针对流形上的函数恢复和加权Sobolev空间，提供与维度无关的误差界，采样方式为随机或确定性采样。
• 通过构造性子采样方法，将现有结果中的对数级过采样因子替换为近乎最优的采样方案，实现改进。
• 通过最佳 $L_2$-逼近误差与Christoffel函数之间的相互作用，统一并推广先前关于采样恢复的研究成果。

提出的方法

• 通过将最坏情况误差与嵌套子空间 $V_n$ 内的最佳 $L_2$-逼近误差 $\\_n$ 及范数比 $\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_G / \|f\|_2$ 关联，推导出一般范数 $G$ 下线性采样恢复的误差界。
• 基于 $cm$ 个函数取值，应用改进的加权最小二乘法，实现 $L_2$ 范数下误差衰减 $\lesssim \sum_{k > \lfloor m/4 \rfloor} \alpha_k \Lambda_{4k} / \sqrt{k}$。
• 通过结合 $\alpha_n$（最佳 $L_2$-逼近误差）与 $\Lambda_n$（与Christoffel函数相关的范数比），将基于 $L_2$ 的误差界推广至一般范数 $G$。
• 利用Christoffel函数 $\Lambda(V_n, G)$ 量化 $L_2$-误差在 $G$-范数下的最坏情况放大效应，从而实现从 $L_2$ 结果到 $L_p$ 和 $H^1$ 范数的转移。
• 将该框架应用于特定函数类，包括流形上的Sobolev空间和以勒让德多项式为权函数的加权 $L_2$-Sobolev空间，推导出显式的衰减速率。
• 采用 $n = cm\log m$ 个独立同分布的采样点进行随机采样，并结合子采样技术，实现高概率误差界，且采样复杂度近乎最优。

实验结果

研究问题

• RQ1 在再生核Hilbert空间中，线性采样算法在 $L_\infty$ 下何时能实现最优性能（至多相差一个常数因子）？
• RQ2 如何从 $L_2$-逼近误差和Christoffel函数推导出 $L_p$-范数下采样恢复的误差界？
• RQ3 对于光滑函数类，在 $L_p$-范数下实现给定采样恢复误差所需的最少函数取值次数是多少？
• RQ4 能否在紧致黎曼流形上通过随机采样实现与维度无关的误差界？
• RQ5 采样点的选择（确定性 vs. 随机）以及子采样策略如何影响Sobolev空间和 $L_p$ 空间中的采样恢复误差？

主要发现

• 当 $G = L_2$ 时，论文改进了线性采样数的最佳已知界，表明在使用 $cm$ 个函数取值时，$g_m^{\mathrm{lin}}(F, L_2) \lesssim \frac{1}{\sqrt{m}} \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k}{\sqrt{k}}$。
• 当 $G = L_\infty$ 时，线性采样数满足 $g_m^{\mathrm{lin}}(F, L_\infty) \lesssim \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k \Lambda_{4k}}{\sqrt{k}}$，其中 $\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_\infty / \|f\|_2$。
• 在区间 $[-1,1]$ 上的Sobolev空间 $H(K_s)$（$s > 1$）中，$L_\infty$-范数下的采样数衰减为 $g_m^{\mathrm{lin}}(H(K_s), L_\infty) \lesssim_s m^{-s+1}$，优于先前结果中的对数因子。
• 在 $H(K_s)$ 上对 $H^1$-范数进行恢复，当 $s > 2$ 时，采样数衰减为 $g_m^{\mathrm{lin}}(H(K_s), H^1) \lesssim_s m^{-s+2}$，该结果通过Christoffel函数 $\Lambda(\Pi_m, H^1) \asymp m^2$ 导出。
• 对于紧致 $d$-维流形上的 $L_p$-逼近（$2 \leq p \leq \infty$），使用 $n = cm\log m$ 个独立同分布采样点的最小二乘算法满足：以高概率有 $\|f - A_n f\|_p \lesssim m^{-1/p} \max\{ \sqrt{m} \cdot a_m(H^w, L_2), a_m(H^w, L_\infty) \}$。
• 通过构造性子采样方法可去除对数级过采样因子，得到几乎最优的算法，其常数与维度无关，且相较于非构造性先前方法更具实用性。