[논문 리뷰] Eignets for function approximation on manifolds

H. N. Mhaskar|ArXiv.org|2009. 09. 28.

Numerical methods in inverse problems참고 문헌 12인용 수 3

한 줄 요약

이 논문은 컴act Riemannian 다양체 위에서 커널 기반 근사 네트워크인 eignets를 도입하며, Lp(µ; X)에서 함수를 최적으로 근사하는 데 최적의 결과를 얻을 수 있도록 결정론적이고 보편적인 알고리즘을 사용한다. 주요 기여는 최소 중심 간격을 복잡도 척도로 삼아 근사 오차의 최적 모듈러스 스무쓰니스 추정치를 확립하는 것으로, 이는 모든 개별 함수에 대해 최적성과 안정성 추정치를 보여주는 역설정 정리들을 포함한다.

ABSTRACT

Let $\XX$ be a compact, smooth, connected, Riemannian manifold without boundary, $G:\XX imes\XX o \RR$ be a kernel. Analogous to a radial basis function network, an eignet is an expression of the form $\sum_{j=1}^M a_jG(\circ,y_j)$, where $a_j\in\RR$, $y_j\in\XX$, $1\le j\le M$. We describe a deterministic, universal algorithm for constructing an eignet for approximating functions in $L^p(μ;\XX)$ for a general class of measures $μ$ and kernels $G$. Our algorithm yields linear operators. Using the minimal separation amongst the centers $y_j$ as the cost of approximation, we give modulus of smoothness estimates for the degree of approximation by our eignets, and show by means of a converse theorem that these are the best possible for every \emph{individual function}. We also give estimates on the coefficients $a_j$ in terms of the norm of the eignet. Finally, we demonstrate that if any sequence of eignets satisfies the optimal estimates for the degree of approximation of a smooth function, measured in terms of the minimal separation, then the derivatives of the eignets also approximate the corresponding derivatives of the target function in an optimal manner.

연구 동기 및 목표

• 컴act Riemannian 다양체 위에서 Lp(µ; X)에 속하는 함수를 근사하는 데 최적의 결과를 얻을 수 있도록 결정론적이고 보편적인 알고리즘을 개발하는 것.
• 최소 중심 간격을 복잡도 척도로 삼아 근사 정도의 최적 모듈러스 스무쓰니스 추정치를 확립하는 것.
• 모든 개별 함수에 대해 이러한 추정치의 최적성을 보여주는 역설정 정리를 증명하는 것.
• eignet의 Lp 노름에 대해 계수 aj의 안정성 추정치를 유도하는 것.
• 부드러운 함수에 대해 eignets가 최적의 근사를 달성할 경우 그 도함수의 근사도 최적의 속도로 이루어진다는 것을 보여주는 것.

제안 방법

• Laplace-Beltrami 연산자의 고유값 ℓj에 대해 {φj}가 L2(µ; X)의 정규직교 기저이고 G(x, y) = ∑j≥0 b(ℓj)φj(x)φj(y)인 커널 G(x, y)를 사용한다.
• 중심 yj ∈ X와 계수 aj ∈ ℝ를 갖는 선형 조합 PMj=1 ajG(⋅, yj)로 eignets를 구성한다.
• 확산 다항식 ΠL = span{φj : ℓj ≤ L}을 기반으로 한 다중 척도 분석을 적용하며, Littlewood-Paley 유사 분해를 활용한다.
• 오차를 제어하고 안정성을 도출하기 위해 타이트 프레임 변환과 연산자 Φ2m(hb2m; ⋅, y)를 사용한다.
• 열 핵심 근사와 그 성질을 이용해 커널 구조를 정의하고 수렴 속도를 도출한다.
• 근사 오차와 계수 안정성의 상한을 구하기 위해 이산 최대 함수 추정치와 노름 부등식(예: (6.13))을 적용한다.

실험 결과

연구 질문

• RQ1 결정론적이고 보편적인 알고리즘이 컴act Riemannian 다양체 위에서 Lp(µ; X)에 속하는 함수에 대해 최적의 근사 속도를 달성하는 eignets를 구성할 수 있는가?
• RQ2 최소 중심 간격에 대한 근사 오차의 최적 의존성은 무엇인가?
• RQ3 부드러운 함수에 대해 최적의 근사를 달성하는 eignets가 그 도함수의 근사도 최적으로 이루어지는가?
• RQ4 계수 aj는 eignet의 Lp 노름에 대해 유계로 표현될 수 있는가? 이는 안정성을 보장한다.
• RQ5 유도된 근사 추정치가 역설정 정리에 의해 날카롭게 확인되는가?

주요 결과

• 알고리즘은 오차가 c2−m(β−α/p′)qα/p′−β∥Ψ∥p 이하로 유계임을 보여주며, 이때 q는 최소 중심 간격과 관련된다.
• 역설정 정리들은 도출된 오차 추정치가 모든 개별 함수에 대해 최적임을 확인한다.
• 안정성 추정치는 ∥(∆∗)rΨ∥p ≤ c2mr∥Ψ∥p 를 만족하며, 2m ∼1/q 이므로 계수 제어가 보장된다.
• 도함수 근사는 최적이다: eignets가 함수 f에 대해 최적의 근사를 달성할 경우, eignets의 도함수는 f의 도함수와 같은 최적 속도로 수렴한다.
• 구성 과정은 δ(˜Cm) ∼1/m 와 δ(˜Cm) ≤2δ(˜Cm) 를 만족하며, ˜Cm는 포함 관계를 가지며 분리 조건을 만족한다.
• p = ∞ 인 경우, ∥(∆∗)γσm(f) −(∆∗)γΨm∥p ≤ cmγ−r∥(∆∗)rf∥p 추정치가 성립하여 도함수 노름 수렴이 확인된다.