[论文解读] Efficient function approximation on general bounded domains using wavelets on a cartesian grid

Vincent Coppé, Daan Huybrechs|arXiv (Cornell University)|Apr 7, 2020

Image and Signal Denoising Methods参考文献 47被引用 6

一句话总结

本论文提出了一种在任意有界域上进行函数逼近的高效算法，利用包围该域的笛卡尔网格上定义的小波实现。通过结合小波框架、正则化与过采样，该方法在1D下实现O(N)复杂度，在d-D下实现O(N^{3(d−1)/d})复杂度，显著优于标准求解器的立方复杂度，同时在病态条件下仍保持高精度与稳定性。

ABSTRACT

Fourier extension is an approximation method that alleviates the periodicity requirements of Fourier series and avoids the Gibbs phenomenon when approximating functions. We describe a similar extension approach using regular wavelet bases on a hypercube to approximate functions on subsets of that cube. These subsets may have a general shape. This construction is inherently associated with redundancy which leads to severe ill-conditioning, but recent theory shows that nevertheless high accuracy and numerical stability can be achieved using regularization and oversampling. Regularized least squares solvers, such as the truncated singular value decomposition, that are suited to solve the resulting ill-conditioned and skinny linear system generally have cubic computational cost. We compare several algorithms that improve on this complexity. The improvements benefit from the sparsity in and the structure of the discrete wavelet transform. We present a method that requires $\mathcal O(N)$ operations in 1-D and $\mathcal O(N^{3(d-1)/d})$ in $d$-D, $d>1$. We experimentally show that direct sparse QR solvers appear to be more time-efficient, but yield larger expansion coefficients.

研究动机与目标

• 开发一种快速且稳定的方法，用于在缺乏乘积结构的一般有界域上逼近函数。
• 通过正则化与过采样，克服在不规则域上小波框架逼近固有的病态性。
• 将求解所得病态线性系统的计算成本从立方复杂度降低至近线性复杂度。
• 通过小波系数的层级依赖加权，实现平滑扩展的自适应逼近。

提出的方法

• 通过将超立方体上的规则小波基限制到感兴趣的子域，构建小波扩展框架。
• 将逼近问题表述为正则化最小二乘问题，以处理冗余性与病态性。
• 利用过采样与Tikhonov正则化，稳定病态线性系统的求解。
• 利用离散小波变换的稀疏性与结构特征，设计复杂度更优的快速求解器。
• 实现稀疏QR求解器，并提出一种基于小波变换结构的新算法，分别实现O(N)与O(N^{3(d−1)/d})复杂度。
• 通过层级依赖权重促进平滑扩展，实现传统样条方法无法实现的自适应逼近。

实验结果

研究问题

• RQ1 尽管存在固有的病态性，是否能够使任意域上的小波函数逼近方法在计算上变得高效？
• RQ2 在小波扩展逼近中，计算成本与系数大小之间的最优权衡是什么？
• RQ3 与标准直接求解器及稀疏QR方法相比，所提算法在效率与稳定性方面表现如何？
• RQ4 通过小波系数的自适应加权，是否能产生比非平滑方法更平滑的扩展？
• RQ5 在多大程度上可以利用离散小波变换的结构，以降低逼近问题求解的复杂度？

主要发现

• 所提算法在1D下实现O(N)运算，在d-D下实现O(N^{3(d−1)/d})复杂度，显著优于标准直接求解器的立方复杂度。
• 正则化与过采样的使用，即使在线性系统严重病态的情况下，也能实现高精度与数值稳定性。
• 实验表明，稀疏QR求解器在时间效率上优于所提算法，但产生的小波展开系数更大。
• 通过层级依赖系数实现的自适应加权，可产生更明显的平滑扩展，尤其在域边界处表现更优。
• 小波扩展方法产生的残差误差与样条扩展相似，但通过系数加权可实现自适应重构与更平滑的行为。