[논문 리뷰] Sampling recovery in $L_2$ and other norms

David Krieg, Kateryna Pozharska외 2명|arXiv (Cornell University)|2023. 05. 12.

Mathematical Approximation and Integration인용 수 6

한 줄 요약

이 논문은 함수 평가를 이용한 $L_p$ 및 기타 노름에서의 선형 샘플링 복원에 대해 날카운 오차 경계를 수립한다. 이는 $L_2$-근사 오차와 크리스토펠 함수를 활용하여 이루어지며, 많은 재생 커널 힐버트 공간에서 선형 샘플링 알고리즘의 최적성(상수 인자 내에서)을 $L_\infty$ 노름에서 입증한다. 또한 차원에 의존하지 않는 상수와 거의 최적의 샘플링 복잡도를 갖는다.

ABSTRACT

We study the recovery of functions in various norms, including $L_p$ with $1\le p\le\infty$, based on function evaluations. We obtain worst case error bounds for general classes of functions in terms of the best $L_2$-approximation from a given nested sequence of subspaces and the Christoffel function of these subspaces. In the case $p=\infty$, our results imply that linear sampling algorithms are optimal up to a constant factor for many reproducing kernel Hilbert spaces.

연구 동기 및 목표

• 일반적인 세미노름 $G$에서 선형 샘플링 복원에 대한 일반적인 최악의 경우 오차 경계를 수립하여, 기존의 $L_2$에서의 결과를 더 넓은 함수 공간으로 확장한다.
• 재생 커널 힐버트 공간에서 선형 샘플링 알고리즘이 상수 인자 내에서 최적 성능을 달성할 조건을 규명하며, 특히 $L_\infty$ 및 소볼레프 유형 공간에서의 성능을 중점적으로 다룬다.
• 매니폴드 상에서의 함수 복원 및 가중치가 있는 소볼레프 공간에서의 복원에 대해, 무작위 또는 결정론적 샘플링을 이용하여 차원에 의존하지 않는 오차 경계를 제공한다.
• 구성적 부분 샘플링을 통한 거의 최적의 샘플링 계획으로 기존 결과에서 로그 과잉 샘플링 인자를 제거하여 개선한다.
• 최적의 $L_2$-근사 오차와 크리스토펠 함수 간의 상호작용을 활용하여 이전 결과를 통합하고 일반화한다.

제안 방법

• 중첩된 부분공간 $V_n$ 내에서의 최선의 $L_2$-근사 오차 $\\_n$ 과 노름 비율 $\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_G / \|f\|_2$ 를 연결하여 일반 노름 $G$에서의 선형 샘플링 복원 오차 경계를 유도한다.
• 함수 평가 $cm$개를 기반으로 한 가중치가 있는 최소 제곱법의 개선된 형태를 적용하여, $L_2$에서 오차 감소율이 $\lesssim \sum_{k > \lfloor m/4 \rfloor} \alpha_k \Lambda_{4k} / \sqrt{k}$ 가 되도록 한다.
• $\alpha_n$ (최선의 $L_2$-근사 오차) 와 $\Lambda_n$ (크리스토펠 함수 관련 노름 비율) 를 조합하여 $L_2$-기반 경계를 일반 노름 $G$로 확장한다.
• 크리스토펠 함수 $\Lambda(V_n, G)$ 를 사용하여 $L_2$-오차가 $G$-노름에서 최악의 경우로 얼마나 증폭되는지 정량화함으로써, $L_2$ 결과를 $L_p$ 및 $H^1$ 노름으로 이전할 수 있도록 한다.
• 특정 함수 클래스에 이 프레임워크를 적용하여, 매니폴드 상의 소볼레프 공간과 레지나 다항식을 사용한 가중치가 있는 $L_2$-소볼레프 공간에서의 명시적 감소율을 도출한다.
• 무작위 샘플링을 $n = cm\log m$ 개의 i.i.d. 점으로 사용하고, 부분 샘플링 기법을 적용하여 고확률 오차 경계를 확보하며, 거의 최적의 샘플링 복잡도를 달성한다.

실험 결과

연구 질문

• RQ1 재생 커널 힐버트 공간에서 선형 샘플링 알고리즘이 $L_\infty$ 노름에서 상수 인자 내에서 최적 성능을 달성할 수 있는 조건은 무엇인가?
• RQ2 최선의 $L_2$-근사 오차와 크리스토펠 함수로부터 $L_p$-노름에서의 샘플링 복원 오차 경계를 어떻게 도출할 수 있는가?
• RQ3 $L_p$-노름에서 매끄러운 함수 클래스에 대해 주어진 샘플링 복원 오차를 달성하기 위해 필요한 최소 함수 평가 수는 얼마인가?
• RQ4 무작위 샘플링을 사용하여 컴act 리만 매니폴드 상에서 샘플링 복원에 대해 차원에 의존하지 않는 오차 경계를 달성할 수 있는가?
• RQ5 샘플링 점의 선택(결정론적 대비 무작위)과 부분 샘플링 전략이 소볼레프 및 $L_p$ 공간에서의 샘플링 복원 오차에 어떤 영향을 미치는가?

주요 결과

• 모든 $G = L_2$의 경우, 이 논문은 선형 샘플링 수에 대해 기존에 알려진 최선의 경계를 향상시켜, $cm$개의 함수 평가로 $g_m^{\mathrm{lin}}(F, L_2) \lesssim \frac{1}{\sqrt{m}} \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k}{\sqrt{k}}$ 를 도출한다.
• 모든 $G = L_\infty$의 경우, 선형 샘플링 수는 $g_m^{\mathrm{lin}}(F, L_\infty) \lesssim \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k \Lambda_{4k}}{\sqrt{k}}$ 를 만족하며, 여기서 $\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_\infty / \|f\|_2$ 이다.
• 구간 $[-1,1]$ 상의 소볼레프 공간 $H(K_s)$ ($s > 1$) 의 경우, $L_\infty$-노름에서의 샘플링 수는 $g_m^{\mathrm{lin}}(H(K_s), L_\infty) \lesssim_s m^{-s+1}$ 로 감소하며, 이는 이전의 로그 인자들을 개선한다.
• $H^1$-노름 복원에 대해 $s > 2$ 인 $H(K_s)$ 공간에서, 샘플링 수는 $g_m^{\mathrm{lin}}(H(K_s), H^1) \lesssim_s m^{-s+2}$ 로 감소하며, 크리스토펠 함수 $\Lambda(\Pi_m, H^1) \asymp m^2$ 를 통해 유도된다.
• $2 \leq p \leq \infty$ 인 $d$-차원 컴팩트 매니폴드 상에서의 $L_p$-근사에서, $n = cm\log m$ 개의 i.i.d. 샘플을 사용하는 최소 제곱 알고리즘은 고확률로 $\|f - A_n f\|_p \lesssim m^{-1/p} \max\{ \sqrt{m} \cdot a_m(H^w, L_2), a_m(H^w, L_\infty) \}$ 를 만족한다.
• 로그 과잉 샘플링 인자는 구성적 부분 샘플링을 통해 제거될 수 있으며, 이로써 차원에 의존하지 않는 상수를 갖는 거의 최적의 알고리즘이 도출되며, 비구성적 기존 방법에 비해 실용성이 향상된다.