[論文レビュー] Advances in Bayesian Probabilistic Modeling for Industrial Applications

Sayan Ghosh, Piyush Pandita+6 more|arXiv (Cornell University)|Mar 26, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 51被引用数 4

ひとこと要約

本論文では、ガウス過程を用いて高精度・低精度のシミュレーションと実験データを統合することで、複雑な産業システムにおける不確実性の定量化と頑健な意思決定を可能にする、スケーラブルでフルベイズ型のフレームワークであるGEのベイズハイブリッドモデリング（GEBHM）を提示する。この手法はケネディとオハガンのフレームワークを発展させ、モデル誤差モデリング、動的マルチアウトプットキャリブレーション、高性能コンピューティング支援といった改善を加えており、ジェットエンジン設計から発電所モデリングに至る応用分野で成功を収めている。

ABSTRACT

Industrial applications frequently pose a notorious challenge for state-of-the-art methods in the contexts of optimization, designing experiments and modeling unknown physical response. This problem is aggravated by limited availability of clean data, uncertainty in available physics-based models and additional logistic and computational expense associated with experiments. In such a scenario, Bayesian methods have played an impactful role in alleviating the aforementioned obstacles by quantifying uncertainty of different types under limited resources. These methods, usually deployed as a framework, allows decision makers to make informed choices under uncertainty while being able to incorporate information on the the fly, usually in the form of data, from multiple sources while being consistent with the physical intuition about the problem. This is a major advantage that Bayesian methods bring to fruition especially in the industrial context. This paper is a compendium of the Bayesian modeling methodology that is being consistently developed at GE Research. The methodology, called GE's Bayesian Hybrid Modeling (GEBHM), is a probabilistic modeling method, based on the Kennedy and O'Hagan framework, that has been continuously scaled-up and industrialized over several years. In this work, we explain the various advancements in GEBHM's methods and demonstrate their impact on several challenging industrial problems.

研究の動機と目的

• 設計および最適化における限られた、ノイズが多く、高価な産業分野のデータの課題に対処する。
• 高次元、時間変動的、マルチファシリティなシステムにおいて、従来のベイズキャリブレーションの限界を克服する。
• 物理ベースのシミュレーションと実験的測定を統合する包括的でスケーラブルかつ計算的に効率的な確率的モデリングフレームワークを構築する。
• 複数のデータソースからの新規データを継続的に統合することで信念を更新し、不確実性下でのリアルタイム意思決定を可能にする。
• 産業規模の応用において、厳密な検証、不確実性の伝播、可視化を通じてモデルの信頼性を確保する。

提案手法

• ベイズキャリブレーションとメタモデリングの基盤として、ケネディとオハガンのフレームワークを採用する。
• モデル誤差を明示的にモデリングすることで、シミュレーションの不正確さを補償するフルベイズ型アプローチを実装する。
• データの流入に応じて動的にガウス過程（GP）のスレーブモデルを構築し、反復的な改善を可能にする。
• マルチアウトプットGPモデルを用いて、複数の出力を有する動的システムを扱うフレームワークを拡張する。
• 前向きな不確実性の定量化と伝播を統合し、関心の度合い（QoI）を信頼区間とともに予測する。
• HPCプラットフォーム上でのドメイン分割とマルチレベルプリコンディショニングを用いて、高次元入力空間（数100のパラメータ）に対してもスケーリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 限られたデータで高次元、マルチファシリティ、時間変動的な工学的問題を扱うにあたり、ベイズ手法を体系的かつ産業応用に適応させるにはどうすればよいか？
• RQ2 実世界の産業応用において、堅牢性と信頼性を確保するために、ケネディとオハガンのフレームワークにどのような改善が必要か？
• RQ3 複雑なシステムにおいて、シミュレーションおよび実験の両方の不確実性とモデル誤差を一貫して定量化・伝播させることは可能か？
• RQ4 ハイパフォーマンスコンピューティングとスケーラブルなGPアルゴリズムは、産業現場におけるベイズモデリングの効率性と正確性をどのように向上させられるか？
• RQ5 タスク埋め込みを用いた構成的モデリングは、マルチデータセットの産業的問題において、データ効率性と予測性能を向上させることができるか？

主な発見

• GEBHMは、複数段階のエンジンブレードロウモデルのキャリブレーションと検証に成功し、不確実性下での空力的性能予測を高精度で実現した。
• フレームワークは、エンジンシステムにおける時間変動的熱的モデルのロバストなキャリブレーションを示し、実験測定値と整合性のある不確実性区間を提供した。
• GEBHMは、複合サイクル発電所において高精度な性能予測と最適化を達成し、高価な物理的試験への依存度を低減した。
• 高精度なCFDシミュレーションと空力冷却システムのデータ統合により、不確実性の定量化が可能となり、設計改善を支援した。
• ドメイン分割とマルチファシリティプリコンディショニングを用いたスケーラブルなGPアルゴリズムの導入により、大規模問題における計算コストが桁違いに削減された。
• タスク変数を埋め込んだ複数のデータセットのモデリングにより、排出ガスモデリングや制御システムキャリブレーションなどの応用で、データ効率性と予測精度が向上した。