[論文レビュー] Survey of multifidelity methods in uncertainty propagation, inference, and optimization

Benjamin Peherstorfer, Karen Willcox+1 more|arXiv (Cornell University)|Jun 28, 2018

Probabilistic and Robust Engineering Design参考文献 157被引用数 28

ひとこと要約

本稿は、高精度モデルと低精度モデルを組み合わせることで、不確実性伝搬、推論、最適化の計算を高速化する多精度手法を概説する。手法は、適応、統合、フィルタリングの3つに分類され、高精度の正確さを保ちながら安価なモデルを活用することで、外側ループの応用分野における顕著な計算高速化が可能になることが強調されている。

ABSTRACT

In many situations across computational science and engineering, multiple computational models are available that describe a system of interest. These different models have varying evaluation costs and varying fidelities. Typically, a computationally expensive high-fidelity model describes the system with the accuracy required by the current application at hand, while lower-fidelity models are less accurate but computationally cheaper than the high-fidelity model. Outer-loop applications, such as optimization, inference, and uncertainty quantification, require multiple model evaluations at many different inputs, which often leads to computational demands that exceed available resources if only the high-fidelity model is used. This work surveys multifidelity methods that accelerate the solution of outer-loop applications by combining high-fidelity and low-fidelity model evaluations, where the low-fidelity evaluations arise from an explicit low-fidelity model (e.g., a simplified physics approximation, a reduced model, a data-fit surrogate, etc.) that approximates the same output quantity as the high-fidelity model. The overall premise of these multifidelity methods is that low-fidelity models are leveraged for speedup while the high-fidelity model is kept in the loop to establish accuracy and/or convergence guarantees. We categorize multifidelity methods according to three classes of strategies: adaptation, fusion, and filtering. The paper reviews multifidelity methods in the outer-loop contexts of uncertainty propagation, inference, and optimization.

研究の動機と目的

• 繰り返しモデル評価を要する外側ループの応用分野（不確実性評価、推論、最適化など）における計算ボトル neck を解消すること。
• 高精度モデルのみを用いる場合の高コストを克服するため、計算コストは低いが精度は低い低精度モデルを統合すること。
• モデル管理戦略（適応、統合、フィルタリング）に基づいて多精度手法を体系的に分類すること。
• 単純化モデル、射影ベースモデル、データ適合モデルの3種類の低精度モデルを含む、多様な多精度手法を統一的な視点から整理すること。
• モデル不適切性の評価や、モデル以外の情報源（例：実験、専門家意見）の統合といった、未解決の課題を浮き彫りにすること。

提案手法

• 多精度手法を3つのクラスに分類する：適応（入力に応じてどのモデルを評価するか選択）、統合（複数のモデルの出力を統合）、フィルタリング（低精度モデルを高精度モデルの評価を導くために使用）。
• 高精度モデルと低精度モデルを、入力を出力に写像する関数として定義する。高精度モデルはターゲットの正確さを表し、低精度モデルは計算コストが低く、近似値を提供する。
• 低精度モデルを3種類に分類する：単純化モデル（例：縮約された物理法則）、射影ベースモデル（例：低次元モデル）、データ適合モデル（例：スレーブモデル、機械学習近似）。
• 外側ループの応用を、入力をモデルに入力し、出力を集約して最適設計、事後分布、不確実性分布などの結果を生成する反復的プロセスとして定式化する。
• ベイズ的モデル平均化とモデル不適切性の評価技術を統合し、モデル精度の不確実性を考慮して耐性性を向上させる。
• 実験計画法と情報の価値の原則を用いて、特に複数の情報源を統合する状況で、どのモデルを、いつ、どこで評価するかを指針づける。

実験結果

リサーチクエスチョン

• RQ1 外側ループの応用分野におけるモデル管理戦略に基づいて、多精度手法を体系的に分類する方法は何か？
• RQ2 単純化、射影ベース、データ適合の各タイプの低精度モデルは、計算高速化にどのように寄与するか。それぞれの相対的利点と制限は何か？
• RQ3 多精度手法は、正確さを損なわずに、不確実性伝搬、統計的推論、最適化の効率をどのように向上させることができるか？
• RQ4 高精度モデルですら現実の近似にすぎないというモデル不適切性を、どのように評価し、多精度フレームワークに組み込むことができるか？
• RQ5 実験や専門家意見といった、モデル以外の情報源を含めた、複数のモデルや情報源を知的に選択して評価するための戦略は何か？

主な発見

• 適応、統合、フィルタリングに基づく多精度手法は、高精度モデルの使用を保ちながら低精度モデルを活用することで、外側ループの応用分野における計算コストを原理的かつ効果的に削減する。
• 統合ベースの戦略、特にベイズ的モデル平均化や補正要因を用いた手法は、複数のモデルの出力を効果的に統合し、予測精度を向上させるとともに、モデルの不確実性を定量化できる。
• スレーブモデルや機械学習近似などのデータ適合型低精度モデルは、評価が高速で、高精度データを用いてトレーニングできるため、不確実性評価や最適化において特に有効である。
• 低次元の内在的構造を持つ系では、射影ベースモデル（例：低次元モデル）が、顕著な計算コストの削減を実現する。
• 単純化モデルは精度が低いが、計算コストが低く、物理的根拠が直感的であるため、初期段階の設計や分析において貴重である。
• 進展は見られるが、モデル不適切性のモデリング、多様な情報源（例：実験、専門家意見）の統合、およびモデルベースの入力以外の枠組みへの拡張といった課題は依然として残っている。