[論文レビュー] Optimal sampling rates for approximating analytic functions from pointwise samples

Ben Adcock, Rodrigo B. Platte+1 more|arXiv (Cornell University)|Oct 15, 2016

Statistical and numerical algorithms参考文献 24被引用数 4

ひとこと要約

本稿は、一般化された不可能性定理を用いて、非等間隔の点サンプルから解析関数の安定近似のための最適なサンプリングレートを確立する。Coppersmith & Rivlinの多項式極値境界を任意のノード分布に拡張し、修正されたジャコビ重み付きグリッドに適用することで、安定近似の最適収束率が、$ u = \frac{1}{2(\gamma+1)}$ を指数とする非幾何的であることを証明する。ここで $ u = \max\{\alpha,\beta, -1/2\}$ であり、より速い収束は指数的悪条件性を意味する。

ABSTRACT

We consider the problem of approximating an analytic function on a compact interval from its values at $M+1$ distinct points. When the points are equispaced, a recent result (the so-called impossibility theorem) has shown that the best possible convergence rate of a stable method is root-exponential in $M$, and that any method with faster exponential convergence must also be exponentially ill-conditioned at a certain rate. This result hinges on a classical theorem of Coppersmith & Rivlin concerning the maximal behaviour of polynomials bounded on an equispaced grid. In this paper, we first generalize this theorem to arbitrary point distributions. We then present an extension of the impossibility theorem valid for general nonequispaced points, and apply it to the case of points that are equidistributed with respect to (modified) Jacobi weight functions. This leads to a necessary sampling rate for stable approximation from such points. We prove that this rate is also sufficient, and therefore exactly quantify (up to constants) the precise sampling rate for approximating analytic functions from such node distributions with stable methods. Numerical results -- based on computing the maximal polynomial via a variant of the classical Remez algorithm -- confirm our main theorems. Finally, we discuss the implications of our results for polynomial least-squares approximations. In particular, we theoretically confirm the well-known heuristic that stable least-squares approximation using polynomials of degree $N < M$ is possible only once $M$ is sufficiently large for there to be a subset of $N$ of the nodes that mimic the behaviour of the $N$th set of Chebyshev nodes.

研究の動機と目的

• 任意の点サンプルからの解析関数の安定近似の根本的限界を特定すること。
• Adcock & Platte (2016) の等間隔不可能性定理を非等間隔グリッドに一般化すること。
• 修正されたジャコビノード分布における多項式近似の収束率と悪条件性の正確なトレードオフを同定すること。
• これらの制約下で多項式最小二乗法が最適であることを確立し、サンプリングレートが $M \asymp N^{2(\gamma+1)}$ であること。

提案手法

• 変分的定式化を用いて、古典的なCoppersmith & Rivlinの多項式ノルム下界を任意の点集合に拡張する。
• 任意のノード分布に対して収束率と条件数を結びつける抽象的不可能性定理を導出する。
• ノードが修正されたジャコビ重み関数 $\mu(x) = g(x)(1-x)^\alpha(1+x)^\beta$ に従って等分布している場合に結果を特殊化する。ここで $g(x)$ はゼロおよび無限大から離れている。
• 最大多項式を数値的に計算し、理論的境界を検証するために、Remezアルゴリズムの変種を用いる。
• 離散的最小二乗法フィッティングの条件数を解析し、極値多項式ノルムと関連付ける。
• 導出されたサンプリングレートが、安定かつ最適な収束のための必要十分条件であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 非等間隔の点サンプルからの解析関数近似において、安定な数値的手法が達成可能な最良の収束率は何か？
• RQ2 端点にクラスタリングを持つグリッドにおいて、安定近似のためのサンプリングレート $M$ と多項式次数 $N$ の関係は何か？
• RQ3 このようなグリッドにおいて、指数的収束と指数的悪条件性のトレードオフは何か？
• RQ4 これらのノード分布において、多項式最小二乗法は安定性および収束面で最適か？
• RQ5 理論的サンプリングレートが安定近似において必要かつ十分であるか？

主な発見

• 修正されたジャコビ重み関数に従って等分布するノードに対して、$ u = \max\{\alpha,\beta, -1/2\}$ とすると、安定な手法が達成可能な最良の収束率は、指数 $ ui = \frac{1}{2(\gamma+1)}$ を持つ非幾何的である。誤差は $\mathcal{O}(\rho^{-M^\nu})$ のように減少する。ここで $\rho > 1$ である。
• 幾何的収束（すなわち、$\mathcal{O}(\rho^{-M})$）を達成するいかなる手法も、$\gamma > -1/2$ のとき $M$ に関して指数的悪条件性を示す。
• サンプリングレート $M \asymp N^{2(\gamma+1)}$ は、$M+1$ 個のノードを用いた次数 $N$ の多項式最小二乗法近似において、安定かつ最適な収束のための必要十分条件である。
• Remez型アルゴリズムを用いた数値実験により、最大多項式ノルムに関する理論的境界が確認された。
• 離散的最小二乗法フィッティングの条件数は、極値多項式の無限大ノルムと漸近的に等価（$ trm{O}(\sqrt{M})$ のオーダーまで）であり、安定性が一般化されたCoppersmith-Rivlin境界と関連している。
• $-1 < \gamma < -1/2$ の場合、数値的証拠は $M = cN$（$c$ が小さいとき）に極値ノルムの指数的爆発を示唆しているが、これは未だ未解決のままである。