[論文レビュー] Sampling recovery in $L_2$ and other norms

David Krieg, Kateryna Pozharska+2 more|arXiv (Cornell University)|May 12, 2023

Mathematical Approximation and Integration被引用数 6

ひとこと要約

本稿は、関数評価を用いた$L_p$および他のノルムにおける線形サンプリング回復の鋭い誤差バインディングを確立する。$L_2$-近似誤差とクリスティョフエル関数を活用し、多くの再生核ヒルベルト空間において、$L_\infty$ノルムで線形サンプリングアルゴリズムが定数因子の違いを除いて最適であることを証明する。次元に依存しない定数とほぼ最適なサンプリング複雑度を達成する。

ABSTRACT

We study the recovery of functions in various norms, including $L_p$ with $1\le p\le\infty$, based on function evaluations. We obtain worst case error bounds for general classes of functions in terms of the best $L_2$-approximation from a given nested sequence of subspaces and the Christoffel function of these subspaces. In the case $p=\infty$, our results imply that linear sampling algorithms are optimal up to a constant factor for many reproducing kernel Hilbert spaces.

研究の動機と目的

• 一般のセミノルム$G$における線形サンプリング回復の一般的な最悪ケース誤差バインディングを確立し、既知の$L_2$結果をより広い関数空間へ拡張する。
• 線形サンプリングアルゴリズムが$\mathit{L}_\infty$およびソボレフ型空間において定数因子の違いを除いて最適性能を達成する条件を同定する。
• ランダムまたは決定的サンプリングを用いて、多様体上および重み付きソボレフ空間における関数回復の次元に依存しない誤差バインディングを提供する。
• 構成的サブサンプリングを用いて、既存の結果における対数的オーバーサンプリング要因を、ほぼ最適なサンプリングスキームに置き換えることで、改善を図る。
• 最良の$L_2$-近似誤差とクリスティョフエル関数の間の相互作用を活用して、先行研究の結果を統一的かつ一般化する。

提案手法

• ネストされた部分空間$V_n$内での最良の$L_2$-近似誤差$_n$と、ノルム比$\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_G / \|f\|_2$を関連させることで、一般ノルム$G$における線形サンプリング回復の誤差バインディングを導出する。
• 関数評価を$cm$回行う重み付き最小二乗法の洗練版を適用し、$L_2$ノルムで誤差減少$\lesssim \sum_{k > \lfloor m/4 \rfloor} \alpha_k \Lambda_{4k} / \sqrt{k}$を達成する。
• $\alpha_n$（最良の$L_2$-近似誤差）と$\Lambda_n$（クリスティョフエル関数に関連するノルム比）を組み合わせることで、$L_2$-ベースのバインディングを一般ノルム$G$へ拡張する。
• クリスティョフエル関数$\Lambda(V_n, G)$を用いて、$L_2$誤差が$G$-ノルムにどれほど拡大されるかを定量化し、$L_2$結果を$L_p$および$H^1$ノルムへ移行可能にする。
• ソボレフ空間やレジェンドル多項式を用いた重み付き$L_2$-ソボレフ空間などの特定の関数クラスにこのフレームワークを適用し、明示的な減少率を導出する。
• 高確率誤差バインディングを達成するため、$n = cm\log m$個のi.i.d.点を用いたランダムサンプリングとサブサンプリング技術を用いる。

実験結果

リサーチクエスチョン

• RQ1 再生核ヒルベルト空間における$\mathit{L}_\infty$ノルムで、線形サンプリングアルゴリズムが定数因子の違いを除いて最適性能を達成する条件は何か？
• RQ2 $L_2$-近似誤差とクリスティョフエル関数から、$L_p$-ノルムにおけるサンプリング回復の誤差バインディングをどのように導出できるか？
• RQ3 滑らかな関数クラスにおいて、与えられたサンプリング回復誤差を達成するための最小関数評価回数は何か？
• RQ4 ランダムサンプリングを用いて、コンパクトなリーマン多様体上でのサンプリング回復に次元に依存しない誤差バインディングを達成できるか？
• RQ5 サンプリング点の選択（決定的 vs. ランダム）およびサブサンプリング戦略が、ソボレフ空間および$L_p$空間におけるサンプリング回復誤差に与える影響は何か？

主な発見

• $G = L_2$の場合、本稿は線形サンプリング数の既存で最も良いバインディングを改善し、$cm$個の関数評価を用いて$g_m^{\mathrm{lin}}(F, L_2) \lesssim \frac{1}{\sqrt{m}} \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k}{\sqrt{k}}$を示す。
• $G = L_\infty$の場合、線形サンプリング数は$g_m^{\mathrm{lin}}(F, L_\infty) \lesssim \sum_{k > \lfloor m/4 \rfloor} \frac{\alpha_k \Lambda_{4k}}{\sqrt{k}}$を満たし、ここで$\Lambda_n = \sup_{f \in V_n \setminus \{0\}} \|f\|_\infty / \|f\|_2$である。
• $[-1,1]$上でのソボレフ空間$H(K_s)$（$s > 1$）の場合、$L_\infty$ノルムにおけるサンプリング数は$g_m^{\mathrm{lin}}(H(K_s), L_\infty) \lesssim_s m^{-s+1}$と減少し、以前の結果の対数的要因を改善する。
• $H^1$-ノルム回復において$H(K_s)$（$s > 2$）の場合、サンプリング数は$g_m^{\mathrm{lin}}(H(K_s), H^1) \lesssim_s m^{-s+2}$と減少し、クリスティョフエル関数$\Lambda(\Pi_m, H^1) \asymp m^2$を用いて導出される。
• $2 \leq p \leq \infty$のコンパクトな$d$次元多様体上での$L_p$-近似において、$n = cm\log m$個のi.i.d.サンプルを用いた最小二乗法は、高確率で$\|f - A_n f\|_p \lesssim m^{-1/p} \max\{ \sqrt{m} \cdot a_m(H^w, L_2), a_m(H^w, L_\infty) \}$を満たす。
• 構成的サブサンプリングを用いることで、対数的オーバーサンプリング要因を除去でき、次元に依存しない定数を伴うほぼ最適なアルゴリズムが得られ、非構成的かつ既存の手法に比べて実用性が向上する。