[논문 리뷰] Efficient function approximation on general bounded domains using wavelets on a cartesian grid

Vincent Coppé, Daan Huybrechs|arXiv (Cornell University)|2020. 04. 07.

Image and Signal Denoising Methods참고 문헌 47인용 수 6

한 줄 요약

이 논문은 도메인을 둘러싸는 카르테시안 격자 위에 정의된 웨이브릿을 사용하여 임의의 유계 영역에서 함수 근사에 효율적인 알고리즘을 제시한다. 정규화와 과표본화를 활용함으로써, 1차원에서는 O(N) 복잡도, d차원에서는 O(N^{3(d−1)/d}) 복잡도를 달성하며, 표준 해법의 세제곱 복잡도에 비해 크게 향상되었고, 악조건 문제에도 불구하고 높은 정확도와 안정성을 유지한다.

ABSTRACT

Fourier extension is an approximation method that alleviates the periodicity requirements of Fourier series and avoids the Gibbs phenomenon when approximating functions. We describe a similar extension approach using regular wavelet bases on a hypercube to approximate functions on subsets of that cube. These subsets may have a general shape. This construction is inherently associated with redundancy which leads to severe ill-conditioning, but recent theory shows that nevertheless high accuracy and numerical stability can be achieved using regularization and oversampling. Regularized least squares solvers, such as the truncated singular value decomposition, that are suited to solve the resulting ill-conditioned and skinny linear system generally have cubic computational cost. We compare several algorithms that improve on this complexity. The improvements benefit from the sparsity in and the structure of the discrete wavelet transform. We present a method that requires $\mathcal O(N)$ operations in 1-D and $\mathcal O(N^{3(d-1)/d})$ in $d$-D, $d>1$. We experimentally show that direct sparse QR solvers appear to be more time-efficient, but yield larger expansion coefficients.

연구 동기 및 목표

• 제품 구조를 갖지 않은 일반적인 유계 영역에서 함수 근사를 위한 빠르고 안정적인 방법을 개발하기 위해.
• 비정규 영역에서 웨이브릿 프레임 근사에 내재된 악조건 문제를 정규화와 과표본화를 통해 극복하기 위해.
• 결과로 발생하는 악조건 선형 시스템의 계산 비용을 세제곱 복잡도에서 근선형 복잡도로 감소시키기 위해.
• 레벨에 따라 가중치를 적용함으로써 부드러운 확장을 가능하게 하고, 스퍼린과는 달리 적응형 근사를 실현하기 위해.

제안 방법

• 초기 영역의 하위영역에 대해 초입체 내에 정의된 정규 웨이브릿 기저를 제한하여 웨이브릿 확장 프레임을 구성하기 위해.
• 중복성과 악조건 문제 처리를 위해 근사 문제를 정규화된 최소 제곱 문제로 공식화하기 위해.
• 악조건 선형 시스템의 해를 안정화하기 위해 과표본화와 티호노프 정규화를 사용하기 위해.
• 이산 웨이브릿 변환의 희소성과 구조를 활용하여 복잡도 향상된 빠른 해법 설계하기 위해.
• 희소 QR 해법과 웨이브릿 변환의 구조를 활용한 새로운 알고리즘을 구현하여, 각각 O(N) 및 O(N^{3(d−1)/d}) 복잡도를 달성하기 위해.
• 레벨에 따라 가중치를 적용하여 부드러운 확장을 유도하고, 스퍼린과는 달리 가능하지 않은 적응형 근사를 실현하기 위해.

실험 결과

연구 질문

• RQ1 내재된 악조건 문제에도 불구하고, 임의의 영역에서 웨이브릿 기반 함수 근사는 계산적으로 효율적으로 수행될 수 있는가?
• RQ2 웨이브릿 확장 근사에서 계산 비용과 계수 크기 사이의 최적의 트레이드오프는 무엇인가?
• RQ3 제안된 알고리즘이 표준 직접 해법과 희소 QR 방법에 비해 효율성과 안정성 면에서 어떻게 비교되는가?
• RQ4 웨이브릿 계수의 적응형 가중치 적용이 비부드러운 접근 방식에 비해 더 부드러운 확장을 이끌 수 있는가?
• RQ5 이산 웨이브릿 변환의 구조를 얼마나 효과적으로 활용하여 근사 문제 해결의 복잡도를 감소시킬 수 있는가?

주요 결과

• 제안된 알고리즘은 1차원에서 O(N) 연산, d차원에서 O(N^{3(d−1)/d}) 복잡도를 달성하며, 표준 직접 해법의 세제곱 복잡도에 비해 상당한 향상이 이루어졌다.
• 정규화와 과표본화의 사용으로 인해 선형 시스템의 심각한 악조건 문제에도 불구하고 높은 정확도와 수치적 안정성이 확보되었다.
• 실험적으로 희소 QR 해법은 제안된 알고리즘보다 시간 효율성이 높지만, 더 큰 웨이브릿 전개 계수를 산출하였다.
• 레벨에 따라 가중치를 적용한 적응형 가중치 적용은 경계에서 특히 눈에 띄게 더 부드러운 확장을 이끌어내었다.
• 웨이브릿 확장 방법은 스퍼린 확장과 유사한 잔차 오차를 생성하지만, 계수 가중치 적용을 통해 적응형 정밀 조정과 더 부드러운 거동을 가능하게 한다.