[論文レビュー] Efficient function approximation on general bounded domains using wavelets on a cartesian grid

Vincent Coppé, Daan Huybrechs|arXiv (Cornell University)|Apr 7, 2020

Image and Signal Denoising Methods参考文献 47被引用数 6

ひとこと要約

本稿では、領域を囲む直交座標グリッド上で定義されたウェーブレットを用いて、任意の有界領域における関数近似のための効率的アルゴリズムを提示する。正則化と過剰サンプリングを活用することで、1次元ではO(N)、d次元ではO(N^{3(d−1)/d})の計算量を達成し、標準的なソルバーの立方体コストと比べ顕著に改善されつつ、悪条件性に対しても高い精度と安定性を維持する。

ABSTRACT

Fourier extension is an approximation method that alleviates the periodicity requirements of Fourier series and avoids the Gibbs phenomenon when approximating functions. We describe a similar extension approach using regular wavelet bases on a hypercube to approximate functions on subsets of that cube. These subsets may have a general shape. This construction is inherently associated with redundancy which leads to severe ill-conditioning, but recent theory shows that nevertheless high accuracy and numerical stability can be achieved using regularization and oversampling. Regularized least squares solvers, such as the truncated singular value decomposition, that are suited to solve the resulting ill-conditioned and skinny linear system generally have cubic computational cost. We compare several algorithms that improve on this complexity. The improvements benefit from the sparsity in and the structure of the discrete wavelet transform. We present a method that requires $\mathcal O(N)$ operations in 1-D and $\mathcal O(N^{3(d-1)/d})$ in $d$-D, $d>1$. We experimentally show that direct sparse QR solvers appear to be more time-efficient, but yield larger expansion coefficients.

研究の動機と目的

• 積構造を持たない一般の有界領域における関数近似のための高速かつ安定な手法の開発。
• 不規則な領域におけるウェーブレットフレーム近似に内在する悪条件性を、正則化と過剰サンプリングによって克服すること。
• 得られる悪条件性の強い線形方程式系の計算コストを、立方体から近線形の計算量に削減すること。
• レベル依存の重み付けによりウェーブレット係数を調整し、スプラインでは不可能な適応的近似を可能にすること。

提案手法

• 超立方体上での正則なウェーブレット基底を目的の部分領域に制限することで、ウェーブレット拡張フレームを構築する。
• 冗長性と悪条件性に対処するため、近似を正則化された最小二乗問題として定式化する。
• 線形方程式系の解法を安定化させるために、過剰サンプリングとチホノフ正則化を用いる。
• 離散ウェーブレット変換のスパarsityと構造を活用し、計算量を改善した高速ソルバーを設計する。
• スパースQRソルバーと、ウェーブレット変換の構造に基づく新規アルゴリズムを実装し、O(N)およびO(N^{3(d−1)/d})の計算量を達成する。
• レベル依存の重みを適用することで滑らかな拡張を促進し、スプラインでは得られない適応的近似を実現する。

実験結果

リサーチクエスチョン

• RQ1 固有の悪条件性を有する不規則な領域におけるウェーブレットベースの関数近似を、計算的に効率的に行うことは可能か？
• RQ2 ウェーブレット拡張近似において、計算コストと係数の大きさの最適なトレードオフは何か？
• RQ3 提案手法は、標準的な直接ソルバーおよびスパースQR法と比較して、効率性と安定性においてどのように異なるか？
• RQ4 ウェーブレット係数の適応的重み付けは、非滑らか化された手法と比較して、より滑らかな拡張を実現できるか？
• RQ5 離散ウェーブレット変換の構造をどの程度活用して、近似問題の解法の計算量を低減できるか？

主な発見

• 提案手法は1次元でO(N)、d次元でO(N^{3(d−1)/d})の演算を達成し、標準的な直接ソルバーの立方体コストと比べ顕著な改善を示す。
• 正則化と過剰サンプリングの活用により、線形方程式系の深刻な悪条件性に対しても高い精度と数値的安定性が維持される。
• スパースQRソルバーは実験的に本手法よりも時間効率が良いが、ウェーブレット展開係数が大きくなる。
• レベル依存の重み付けによる適応的重み付けは、特に領域の境界付近で顕著に滑らかな拡張を実現する。
• ウェーブレット拡張法はスプライン拡張と同等の残差誤差を生じるが、係数の重み付けにより適応的リファインメントとより滑らかな挙動が可能になる。