[论文解读] Frames and numerical approximation II: generalized sampling

Ben Adcock, Daan Huybrechs|arXiv (Cornell University)|Feb 6, 2018

Image and Signal Denoising Methods参考文献 20被引用 12

一句话总结

本文通过允许通过任意线性算子（例如函数值）进行采样，并引入超采样以用于最小二乘公式，推广了基于框架的数值逼近方法。结果表明，通过超采样，逼近精度可从 𝒪(√ε) 提升至 𝒪(ε)，从而在病态系统下也能实现稳定且高度精确的计算。

ABSTRACT

In a previous paper [Adcock & Huybrechs, 2019] we described the numerical approximation of functions using redundant sets and frames. Redundancy in the function representation offers enormous flexibility compared to using a basis, but ill-conditioning often prevents the numerical computation of best approximations. We showed that, in spite of said ill-conditioning, approximations with regularization may still provide accuracy up to order $\sqrtε$, where $ε$ is a small truncation threshold. When using frames, i.e. complete systems that are generally redundant but which provide infinite representations with coefficients of bounded norm, this accuracy can actually be achieved for all functions in a space. Here, we generalize that setting in two ways. We assume information or samples from $f$ from a wide class of linear operators acting on $f$, rather than inner products associated with the best approximation projection. This enables the analysis of fully discrete approximations based, for instance, on function values only. Next, we allow oversampling, leading to least-squares approximations. We show that this leads to much improved accuracy on the order of $ε$ rather than $\sqrtε$. Overall, we demonstrate that numerical function approximation using redundant representations may lead to highly accurate approximations in spite of having to solve ill-conditioned systems of equations.

研究动机与目标

• 将基于框架的数值逼近方法从内积推广至更一般的线性采样算子（如点值采样）。
• 分析使用超采样和最小二乘法的全离散逼近方法的稳定性和精度。
• 证明通过超采样可将误差界从 𝒪(√ε) 降低至 𝒪(ε)，显著提升逼近精度。
• 建立稳定采样率存在的条件，特别是针对如勒让德节点等结构化采样点。
• 提供理论和数值证据表明，通过超采样引入正则化可在病态 Gram 矩阵下实现高精度、稳定的计算。

提出的方法

• 将逼近框架推广至允许通过任意有界线性算子进行采样，而不仅限于内积。
• 引入使用超采样数据的最小二乘公式，其中采样数 M 超过基函数数 N（即 M = γN）。
• 对由冗余框架引起的病态线性系统，采用截断奇异值分解（Tikhonov 型）正则化，阈值为 ε，以稳定解。
• 推导出条件数和逼近误差的理论界，表明其对 ε 和采样结构的依赖性。
• 采用高精度算术和专用求积规则，以精确计算 Gram 矩阵和稳定性常数。
• 使用勒让德点和等距点作为测试采样集，比较不同采样策略下的稳定性和收敛行为。

实验结果

研究问题

• RQ1 基于框架的逼近能否推广至内积之外的函数值及其他线性采样算子？
• RQ2 在广义采样框架中，与标准正则化最佳逼近相比，超采样是否能提升逼近精度？
• RQ3 超采样因子 γ 与逼近稳定性之间有何关系，特别是在条件数和误差界方面？
• RQ4 不同采样点分布（如勒让德点与等距点）如何影响广义采样方法的稳定性和收敛性？
• RQ5 能否通过超采样和最小二乘公式将理论误差界从 𝒪(√ε) 改进至 𝒪(ε)？

主要发现

• 通过超采样和最小二乘公式，逼近误差被限制在 𝒪(ε) 范围内，相较于非超采样情况下的 𝒪(√ε) 显著提升。
• 对于勒让德点，线性超采样（γ > 1）可使稳定性常数 κᴹ,ᴺ^ε 和 λᴹ,ᴺ^ε 保持有界且较小，表明收敛稳定。
• 相比之下，等距点需采用超线性超采样才能避免条件数趋近于 1/ε，表明存在不稳定性。
• 条件数的理论上限为 𝒪(1/ε)，但仅在预渐近区域接近该值；当超采样充分时，该界稳定在较小常数范围内。
• 数值实验验证了在使用勒让德节点并辅以充分超采样时，误差以 𝒪(ε) 速率收敛，与理论分析一致。
• 采用高斯-勒让德求积权重进行离散归一化可提升稳定性，降低常数 κᴹ,ᴺ^ε 和 λᴹ,ᴺ^ε，从而增强逼近精度。