[論文レビュー] Fast multilevel sparse Gaussian kernels for high-dimensional approximation and integration

Zhaonan Dong, Emmanuil H. Georgoulis+2 more|arXiv (Cornell University)|Jan 14, 2015

Probabilistic and Robust Engineering Design参考文献 13被引用数 3

ひとこと要約

本稿では、5〜10次元の高次元近似および積分のため、構造化されたスパースグリッド上に方向スケーリング付きテンソル積ガウスカーネルを用いた高速な多層スパースカーネルベース補間（MLSKI）手法を提案する。非等方的ガウスカーネルのテンソル積構造を活用することで、マシン精度で事前計算された1次元の基底関数を用いて完全に並列化可能な計算が可能となり、計算コストを低減しつつ高い精度を達成し、補間および数値積分問題の両方で最適収束率を示す。

ABSTRACT

A fast multilevel algorithm based on directionally scaled tensor-product Gaussian kernels on structured sparse grids is proposed for interpolation of high-dimensional functions and for the numerical integration of high-dimensional integrals. The algorithm is based on the recent Multilevel Sparse Kernel-based Interpolation (MLSKI) method (Georgoulis, Levesley \& Subhan, \emph{SIAM J. Sci. Comput.}, 35(2), pp.~A815--A831, 2013), with particular focus on the fast implementation of Gaussian-based MLSKI for interpolation and integration problems of high-dimen-sional functions $f:[0,1]^d o\mathbb{R}$, with $5\le d\le 10$. The MLSKI interpolation procedure is shown to be interpolatory and a fast implementation is proposed. More specifically, exploiting the tensor-product nature of anisotropic Gaussian kernels, one-dimensional cardinal basis functions on a sequence of hierarchical equidistant nodes are precomputed to machine precision, rendering the interpolation problem into a fully parallelisable ensemble of linear combinations of function evaluations. A numerical integration algorithm is also proposed, based on interpolating the (high-dimensional) integrand. A series of numerical experiments highlights the applicability of the proposed algorithm for interpolation and integration for up to 10-dimensional problems.

研究の動機と目的

• 5次元以上での高次元関数近似および積分における次元の呪いに対処すること。
• スパースグリッドとガウスカーネルを用いた、高速でスケーラブルかつ高精度な補間および数値積分のアルゴリズムを開発すること。
• 非等方的ガウスカーネルのテンソル積構造を活用することで、高次元問題における補間性および高精度を保証すること。
• 1次元の基底関数の事前計算と完全に並列化可能な線形結合による、効率的な計算を可能とすること。
• 滑らかでない関数や高次元被積分関数を含むベンチマーク問題に対して、手法の妥当性を検証すること。

提案手法

• 本手法は、方向スケーリング付き非等方的異方性を持つテンソル積ガウスカーネルを用いて構築されたハイアラルキーなスパースグリッドに基づく多層フレームワークを採用する。
• マシン精度で事前計算された1次元の基底関数を用いて、高次元補間問題を独立した1次元部分問題に分解する。
• 各レベルは、低レベルからの結果を組み合わせることでスパースグリッド上で補間を実行し、補間性収束を保証する。
• 積分スキームは、被積分関数をMLSKIで補間した後、事前計算された求積重みを用いて補間関数を数値積分することで積分値を計算する。
• 求積重みは、1変数基底関数の積分から解析的に導出され、高精度評価には誤差関数が用いられる。
• 各1次元補間が独立しているため、アルゴリズムは完全に並列化可能であり、関数評価の線形結合によって計算が実行される。

実験結果

リサーチクエスチョン

• RQ1 ガウスカーネルを用いた多層スパースカーネルベース補間法は、10次元未満の高次元問題において、高精度かつ高速な計算を達成できるか？
• RQ2 非等方的ガウスカーネルのテンソル積構造は、MLSKIの完全な並列化と効率的実装を可能にするか？
• RQ3 滑らかでない関数を含む高次元問題において、本手法は補間性を保ち、最適収束率を達成できるか？
• RQ4 境界特異性や非テンソル積構造を有する高次元被積分関数に対して、本手法は数値積分タスクで優れた性能を示せるか？
• RQ5 5次元および10次元の異なるベンチマーク関数において、本手法の収束特性と計算効率はどのように変化するか？

主な発見

• 5次元テンソル積関数 $ f({\bf x}) = \prod_{i=1}^{5} 4x_i(1-x_i) $ に対して、MLSKI手法は754,845個のノードで相対誤差 $ 5.24 \times 10^{-7} $ を達成した。
• 10次元関数 $ g({\bf x}) = \prod_{i=1}^{10} e^{-x_i(1-x_i)} $ に対しては、331,777個のノードで相対誤差が $ 6.16 \times 10^{-7} $ に低下し、収束の頑健性が確認された。
• 4次元フランケ関数に対しては、331,777個のノードで相対誤差 $ 3.23 \times 10^{-6} $ を達成し、非テンソル積構造の滑らかな関数に対しても有効であることが示された。
• 境界微分の不連続性を有する5次元ペイオフ関数に対しては、754,845個のノードで相対誤差 $ 9.24 \times 10^{-6} $ を達成し、滑らかでない問題に対しても良好な性能を示した。
• 積分スキームは、MLSKI補間と誤差関数から導出された事前計算済み求積重みを組み合わせることで、高精度な積分評価を可能にし、機械精度での積分評価が実現した。
• アルゴリズムの計算コストは $ N(\log N)^{d-1} $ のスケーリングを示し、完全グリッドの指数的コストを回避しつつ、次元に依存しない代数的収束率を維持した。