[論文レビュー] Recursive co-kriging model for Design of Computer experiments with multiple levels of fidelity with an application to hydrodynamic

Loïc Le Gratiet|arXiv (Cornell University)|Oct 2, 2012

Advanced Multi-Objective Optimization Algorithms参考文献 16被引用数 17

ひとこと要約

この論文は、計算複雑性を低減しながら、元のKennedy-O'Hagan共クリギングフレームワークと同一の予測平均および分散を維持する、多忠実度コンピュータ実験向けの再帰的共クリギングモデルを提案する。多忠実度モデルを忠実度レベルごとに逐次的・独立的なクリギングに分解することで、閉形式の解が得られ、高速な交差検証が可能となり、流体力学的シミュレーションにおける大規模データセットへのスケーラビリティが著しく向上する。

ABSTRACT

In many practical cases, a sensitivity analysis or an optimization of a complex time consuming computer code requires to build a fast running approximation of it - also called surrogate model. We consider in this paper the problem of building a surrogate model of a complex computer code which can be run at different levels of accuracy. The co-kriging based surrogate model is a promising tool to build such an approximation. The idea is to improve the surrogate model by using fast and less accurate versions of the code. We present here a new approach to perform a multi-fidelity co-kriging model which is based on a recursive formulation. The strength of this new method is that the co-kriging model is built through a series of independent kriging models. From them, some properties of classical kriging models can naturally be extended to the presented co-kriging model such as a fast cross-validation procedure. Moreover, based on a Bayes linear formulation, an extension of the universal kriging equations are provided for the co-kriging model. Finally, the proposed model has the advantage to reduce the computational complexity compared to the previous models. The multi-fidelity model is successfully applied to emulate a hydrodynamic simulator. This real example illustrates the efficiency of the recursive model.

研究の動機と目的

• 忠実度レベルが異なる精度を持つ多忠実度コンピュータシミュレーション向けに、計算効率の高い代替モデル手法を開発すること。
• 元の共クリギングモデルと同等の予測精度を維持しながら、計算負荷を低減すること。
• ユニバーサル共クリギングにおける予測平均および分散の閉形式表現を可能にすること。
• 多忠実度共クリギングモデル向けに高速な交差検証手順を導入すること。
• 実世界の流体力学的シミュレータにこの手法を適用し、スケーラビリティと精度を実証すること。

提案手法

• 本手法は、忠実度レベルごとに独立したクリギングを実行することで、s段階の共クリギングモデルを再帰的構成する。
• 結合共分散構造をブロックごとの成分に分解し、大規模な1つの行列の逆行列計算ではなく、部分行列の別個逆行列計算を可能にする。
• 予測平均および分散は、ブロック行列の逆行列計算および全期待値および分散の法則を用いて導出される。
• 再帰的条件付き期待値を用いて、ユニバーサル共クリギングの予測平均および分散の閉形式表現が導出される。
• Dubrule (1983) が提案した交差検証手順を、再帰的行列逆行列計算と1つずつ除外推定を活用することで、多忠実度設定に拡張する。
• パラメータ推定は各レベルごとに独立して実行され、悪条件な大規模共分散行列の回避により、数値的安定性が向上する。

実験結果

リサーチクエスチョン

• RQ1 多忠実度共クリギングの再帰的定式化は、元の共クリギングモデルと同等の予測精度を達成できるか？
• RQ2 再帰的アプローチにより、ユニバーサル共クリギングにおける予測平均および分散の閉形式表現が可能になるか？
• RQ3 高速な交差検証は、多忠実度共クリギングモデルに効果的に拡張可能か？
• RQ4 標準的な共クリギング手法と比較して、再帰的アプローチは計算複雑性を低減するか？
• RQ5 複雑な流体力学的シミュレータにおいて、再帰的共クリギングモデルは実際の応用でどのように性能を発揮するか？

主な発見

• 再帰的共クリギングモデルは、元のKennedy-O'Hagan共クリギングモデルと同一の予測平均および分散を生成する。
• ユニバーサル共クリギングの予測平均および分散の閉形式表現が導出され、解析的計算が可能になる。
• 高速な交差検証手順が開発され、モデル検証の計算コストが著しく低減される。
• 大規模な行列の逆行列計算を忠実度レベルごとの小規模で独立した逆行列計算に分割することで、計算複雑性が低減される。
• モデルは流体力学的シミュレータに成功裏に適用され、大規模データセットにおけるスケーラビリティと精度が実証された。
• 再帰的アプローチにより、悪条件な大規模共分散行列を回避することで、数値的安定性が向上した。