[論文レビュー] Polynomial-Chaos-based Kriging

R. Schoebi, Bruno Sudret+1 more|arXiv (Cornell University)|Feb 13, 2015

Probabilistic and Robust Engineering Design参考文献 64被引用数 3

ひとこと要約

本稿では、グローバルな近似に多項式クラウド展開（PCE）を、ローカルな精緻化にクリギングを組み合わせた、非侵襲的 surrogate modeling の新手法である PC-Kriging を提案する。適応的最小角回帰アルゴリズムを用いてスパースな正規直交多項式の集合を選択し、それらを包括的なクリギングフレームワークに統合することで、PC-Kriging は限られた実験設計下でも、特に優れた精度を達成する。ベンチマーク関数において、単独の PCE やクリギングを上回る性能を示した。

ABSTRACT

Computer simulation has become the standard tool in many engineering fields for designing and optimizing systems, as well as for assessing their reliability. To cope with demanding analysis such as optimization and reliability, surrogate models (a.k.a meta-models) have been increasingly investigated in the last decade. Polynomial Chaos Expansions (PCE) and Kriging are two popular non-intrusive meta-modelling techniques. PCE surrogates the computational model with a series of orthonormal polynomials in the input variables where polynomials are chosen in coherency with the probability distributions of those input variables. On the other hand, Kriging assumes that the computer model behaves as a realization of a Gaussian random process whose parameters are estimated from the available computer runs, i.e. input vectors and response values. These two techniques have been developed more or less in parallel so far with little interaction between the researchers in the two fields. In this paper, PC-Kriging is derived as a new non-intrusive meta-modeling approach combining PCE and Kriging. A sparse set of orthonormal polynomials (PCE) approximates the global behavior of the computational model whereas Kriging manages the local variability of the model output. An adaptive algorithm similar to the least angle regression algorithm determines the optimal sparse set of polynomials. PC-Kriging is validated on various benchmark analytical functions which are easy to sample for reference results. From the numerical investigations it is concluded that PC-Kriging performs better than or at least as good as the two distinct meta-modeling techniques. A larger gain in accuracy is obtained when the experimental design has a limited size, which is an asset when dealing with demanding computational models.

研究の動機と目的

• 不確実性の定量化や信頼性解析において、高精度モデルを数万回乃至数百万回も実行することが計算的に非現実的であるという問題に対処する。
• 単独の多項式クラウド展開（PCE）やクリギングの限界を克服し、グローバルな近似とローカルな精緻化の両方の長所を統合する。
• グローバルな多項式トレンドとローカルなガウス過程相関の両方を活用する、統一的かつ非侵襲的なメタモデリング手法を構築する。
• 適応的アルゴリズムを用いてスパースな正規直交多項式の最適な集合を選択することで、特に小規模な実験設計下でも surrogate モデルの精度を向上させる。
• モデル評価コストを削減しながら高い予測精度を維持することで、信頼性解析や最適化を効率的に行えるようにする。

提案手法

• PCE をトレンド成分、クリギングを確率的補正として組み合わせることで、包括的クリギングモデルを構築する。
• 最小角回帰（LAR）を用い、計算モデルのグローバルな挙動を最もよく表現するスパースな正規直交多項式の集合を段階的に選択する。
• 2 種類の変種を実装する：逐次的 PC-Kriging（SPC-Kriging）は多項式を逐次的に追加し、最適的 PC-Kriging（OPC-Kriging）は残差交差検証（LOO）誤差に基づいて最適な部分集合を選択する。
• LAR を用いた選択プロセスの各ステップで、クリギング相関関数のハイパーパrameter を最尤推定（MLE）法で推定する。
• 一般化誤差の代理指標として残差交差検証（LOO）誤差を用い、モデルの複雑さを犠牲にせずに精度を損なわずに最適な多項式集合の選択を支援する。
• 相対的一般化誤差を計算するために、大規模な検証セットを用いて、解析的ベンチマーク関数で手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 PCE とクリギングを統合した単一の surrogate モデルは、特に小規模な実験設計下において、単独で使用する場合と比較して精度を向上させることができるか？
• RQ2 最小角回帰を用いたスパースな正規直交多項式の適応的選択は、得られるメタモデルの性能と複雑さにどのように影響を与えるか？
• RQ3 LOO 誤差に基づいて最適な多項式部分集合を選択する OPC-Kriging は、逐次的に多項式を追加する SPC-Kriging よりも高い精度と低い複雑さを達成するか？
• RQ4 ハイブリッド PC-Kriging モデルは、不確実性の定量化タスクにおいて、必要なモデル評価回数をどの程度削減できるか？
• RQ5 さまざまなベンチマーク関数とサンプルサイズにおいて、PC-Kriging の一般化誤差は通常のクリギングや PCE と比較してどの程度優れているか？

主な発見

• PC-Kriging は、テストしたすべてのベンチマーク関数において、単独の PCE やクリギングと同等またはそれ以上の性能を示し、特に小規模な実験設計下で顕著な優位性を示した。
• OPC-Kriging は、トレンド成分における多項式の数を削減しながらも、SPC-Kriging と同等またはより高い精度を達成し、モデルの複雑さを低減した。
• Ishigami 関数（N=128）の例では、全 56 個の多項式のうち 27 個（半数）のみを用いても、フルセットとほぼ同等の精度が得られた。これは、精度を損なわずに著しい複雑さの低減が可能であることを示している。
• 残差交差検証（LOO）誤差は真の相対的一般化誤差をよく追跡しており、最適な多項式集合の選択に信頼できる基準であることが裏付けられた。
• 特に限られたサンプル数で高い精度を求める必要がある信頼性解析の文脈では、興味の高い領域（例：限界状態面付近）にサンプルを逐次追加する適応的実験設計戦略が、精度をさらに向上させうる。
• 計算モデルが高価な場合に特に有効であり、最小限のモデル評価回数で高い精度を達成できるため、信頼性解析や最適化タスクに適している。