[論文レビュー] A Lanczos-Stieltjes method for one-dimensional ridge function approximation and integration

Andrew Glaws, Paul G. Constantine|arXiv (Cornell University)|Aug 6, 2018

Probabilistic and Robust Engineering Design参考文献 60被引用数 4

ひとこと要約

本稿では、繰り返し畳み込みを用いて入力の線形結合の密度を推定し、Lanczos反復により直交多項式を構築することで、効率的な1次元リッジ関数近似および統合のためのLanczos-Stieltjes法を導入する。この手法は、全次元的手法と比較して指数的計算コストの削減を達成しつつ、特に関数評価回数が限られた状況下でも高い精度を維持する。

ABSTRACT

Many of the input-parameter-to-output-quantity-of-interest maps that arise in computational science admit a surprising low-dimensional structure, where the outputs vary primarily along a handful of directions in the high-dimensional input space. This type of structure is well modeled by a ridge function, which is a composition of a low-dimensional linear transformation with a nonlinear function. If the goal is to compute statistics of the output (e.g., as in uncertainty quantification or robust design) then one should exploit this low-dimensional structure, when present, to accelerate computations. We develop Gaussian quadrature and the associated polynomial approximation for one-dimensional ridge functions. The key elements of our method are (i) approximating the univariate density of the given linear combination of inputs by repeated convolutions and (ii) a Lanczos-Stieltjes method for constructing orthogonal polynomials and Gaussian quadrature.

研究の動機と目的

• 高次元統合における次元の呪いを、入出力マップに内在する低次元リッジ構造を活用することで克服すること。
• 計算コストを低減しつつ精度を保持する1次元リッジ関数のガウス求積法に基づく手法を開発すること。
• 関数が正確にはリッジ関数でないが近似的に表現可能な関数に対しても応用可能な手法を拡張し、高価なシミュレーションを伴う実世界の科学計算分野での実用性を確保すること。
• 最小限の関数評価回数で、リッジ関数の積分および多項式近似を数値的に安定かつ効率的に計算するアルゴリズムを提供すること。

提案手法

• 入力密度の繰り返し畳み込みを用いて、線形結合 $ u = oldsymbol{a}^T oldsymbol{x} $ の一変数密度を近似し、高精度な求積法の構築を可能にする。
• Lanczos-Stieltjesアルゴリズムを適用し、リッジ変数 $ u $ に誘導される測度に対して直交多項式および関連するガウス求積則を生成する。
• 得られた求積ノードおよび重みを用いて、リッジプロファイル $ g(u) $ の多項式近似を構築し、高精度な積分および関数近似を実現する。
• 近似的にリッジ関数として表現可能な関数への拡張のため、2段階の近似を用いる：まず入力密度 $ q(u) $ を近似し、その後Lanczos反復を適用して多項式サロゲートを構築する。
• シャドウプロットと $ L^2 $ 誤差解析を用いて、リッジ近似の品質を検証し、最適な多項式次数を決定する。
• スパースグリッドに類似した構造とLanczos反復の階層的精錬を活用し、収束解析および適応的精錬を可能にする。

実験結果

リサーチクエスチョン

• RQ1 関数評価回数を最小限に抑える状況下で、Lanczos-Stieltjes法を1次元リッジ関数のガウス求積則構築に効果的に適応できるか。
• RQ2 計算リソースが限られた状況下で、1次元リッジ近似の精度が全次元多項式近似と比べてどのように異なるか。
• RQ3 高次元入出力マップにおける低次元構造を、統合コストの低減にどの程度活用できるか。
• RQ4 畳み込みによる誘導密度 $ q(u) $ の近似が、得られる求積法および多項式近似の精度に与える影響はいかほどか。
• RQ5 関数が正確にはリッジ関数でないが、近似的にリッジ関数として扱える場合、この手法はどの程度効果的に機能するか。

主な発見

• Lanczos-Stieltjes法を用いた1次元リッジ近似は、極めて少ない関数評価回数で最適な性能を発揮し、計算リソースが限られた状況下で全次元近似を上回る。
• リッジ近似の $ L^2 $ 誤差は約 $ 1.29 imes 10^{-2} $ で水平状態に近づくことが示され、リッジ構造が正確でないことが原因で近似精度の限界に達していることを示している。
• 特に関数に明確なリッジ構造が見られる場合、全次元統合と比較して指数的計算コストの削減を達成する。
• 近似的にリッジ関数として扱える関数への拡張は効果的である：最小限の関数評価回数で、固有のリッジ近似誤差に素早く収束する。
• シャドウプロットと誤差解析により、入力が高次元であっても、リッジ方向に沿った関数的挙動を正確に捉えていることが確認された。
• 式 (57) に示すように、射影追求回帰モデルの積分は、各リッジ成分にこの手法を適用し、結果を合算することで高精度に実行可能である。