[論文レビュー] A support vector regression-based multi-fidelity surrogate model

Maolin Shi, Shuo Wang+3 more|arXiv (Cornell University)|Jun 22, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 21被引用数 7

ひとこと要約

本稿では、高精度（HF）および低精度（LF）のシミュレーションデータを統合するためにサポートベクターレグレッションを活用する、新しいマルチフィdelityな補間モデルCo_SVRを提案する。核関数を用いてHFとLFモデルの差異をマッピングし、ヒューリスティックな最適化アルゴリズムでパラメータを最適化することで、数値ベンチマークおよび圧力容器設計の事例において、Co_Kriging や Co_RBF や単一精度モデルと比較して優れた予測精度を達成する。

ABSTRACT

Computational simulations with different fidelity have been widely used in engineering design. A high-fidelity (HF) model is generally more accurate but also more time-consuming than an low-fidelity (LF) model. To take advantages of both HF and LF models, multi-fidelity surrogate models that aim to integrate information from both HF and LF models have gained increasing popularity. In this paper, a multi-fidelity surrogate model based on support vector regression named as Co_SVR is developed by combining HF and LF models. In Co_SVR, a kernel function is used to map the map the difference between the HF and LF models. Besides, a heuristic algorithm is used to obtain the optimal parameters of Co_SVR. The proposed Co_SVR is compared with two popular multi-fidelity surrogate models Co_Kriging model, Co_RBF model, and their single-fidelity surrogates through several numerical cases and a pressure vessel design problem. The results show that Co_SVR provides competitive prediction accuracy for numerical cases, and presents a better performance compared with the Co_Kriging and Co_RBF models and single-fidelity surrogate models.

研究の動機と目的

• 高精度および低精度のシミュレーションを統合することで、より正確かつ効率的な補間モデリング手法を、工学的設計の分野で開発すること。
• Co_Kriging や Co_RBF といった既存のマルチフィデリティモデルが、フィデリティレベル間の複雑な非線形関係を扱う際に抱える限界を克服すること。
• HFとLFモデルの差異をモデリングする際に、サポートベクターレグレッションの構造的利点を活用することで、予測精度を向上させること。
• 提案手法を合成的な数値ケースおよび実世界の圧力容器設計問題の両方で検証すること。

提案手法

• 高精度と低精度のシミュレーション出力の差異をモデリングするために、サポートベクターレグレッション（SVR）フレームワークを採用する。
• 入力空間をマッピングし、HFとLFモデル応答の間の非線形関係を捉えるために、核関数を適用する。
• 正則化および核関数のパラメータを含む、Co_SVRモデルの最適なハイパーパラメータを特定するために、ヒューリスティック最適化アルゴリズムを用いる。
• HFおよびLFデータを用いてモデルを学習させ、学習済みの差異関数を通じてLF予測をHFデータで補正する。
• SVRの一般化能力を活用することで、ノイズが多いか希なHFデータに対しても頑健であるように設計されている。
• 交差検証および誤差指標を用いて、Co_SVRを Co_Kriging、Co_RBF、および単一精度SVR補間モデルと比較する。

実験結果

リサーチクエスチョン

• RQ1 サポートベクターレグレッションに基づくマルチフィデリティモデルは、Co_Kriging や Co_RBF といった既存手法よりも優れた予測精度を達成できるか？
• RQ2 複雑な工学的問題において、複数のフィデリティレベルからのデータ統合を実行した場合、提案されたCo_SVRモデルはどの程度の性能を示すか？
• RQ3 核関数の選択およびパラメータチューニングが、マルチフィデリティ補間モデルの精度と頑健性に与える影響は何か？
• RQ4 限られた高精度データがある状況でも、提案モデルは高い精度を維持できるか？

主な発見

• Co_SVRは、複数の数値的テストケースにおいて競争力のある予測精度を達成し、Co_Kriging や Co_RBF モデルを上回る性能を示した。
• 圧力容器設計問題において、Co_SVRは Co_Kriging、Co_RBF、および単一精度補間モデルと比較して優れた性能を示した。
• ヒューリスティックなパrameter最適化戦略により、Co_SVRモデルの一般化能力と精度が著しく向上した。
• HF-LF差異をモデリングするために核関数を用いることで、線形補正手法よりも非線形トレンドをよりよく捉えることができた。
• Co_SVRは希な高精度データに対しても頑健であり、他のモデルが性能を落とす状況でも高い精度を維持した。