[論文レビュー] Deep Gaussian Process-based Multi-fidelity Bayesian Optimization for Simulated Chemical Reactors

Tom V. Savage, Nausheen Basha+2 more|arXiv (Cornell University)|Oct 31, 2022

Advanced Multi-Objective Optimization Algorithms被引用数 7

ひとこと要約

本稿では、コイルチューブリアクターの幾何形状を、プラグフロー性能を向上させるために、効率的に最適化するための、深層ガウス過程（DGP）に基づくマルチフィidelityベイズ最適化フレームワークを提案する。5つの離散的メッシュフィidelityと、不確実性を考慮したフィidelity選択を活用することで、計算コストを低減しつつ、実験データと一致する高い精度の解を得た。

ABSTRACT

New manufacturing techniques such as 3D printing have recently enabled the creation of previously infeasible chemical reactor designs. Optimizing the geometry of the next generation of chemical reactors is important to understand the underlying physics and to ensure reactor feasibility in the real world. This optimization problem is computationally expensive, nonlinear, and derivative-free making it challenging to solve. In this work, we apply deep Gaussian processes (DGPs) to model multi-fidelity coiled-tube reactor simulations in a Bayesian optimization setting. By applying a multi-fidelity Bayesian optimization method, the search space of reactor geometries is explored through an amalgam of different fidelity simulations which are chosen based on prediction uncertainty and simulation cost, maximizing the use of computational budget. The use of DGPs provides an end-to-end model for five discrete mesh fidelities, enabling less computational effort to gain good solutions during optimization. The accuracy of simulations for these five fidelities is determined against experimental data obtained from a 3D printed reactor configuration, providing insights into appropriate hyper-parameters. We hope this work provides interesting insight into the practical use of DGP-based multi-fidelity Bayesian optimization for engineering discovery.

研究の動機と目的

• コイルチューブリアクターの幾何形状設計における高価で導出不能な最適化の課題に対処すること。
• ベイズ最適化フレームワーク内に複数のシミュレーションフィidelityを統合することで、CFDに基づくリアクター最適化における計算コストを低減すること。
• 実験データとの比較を通じて、5つの離散的メッシュフィidelityレベルの正確性を検証し、信頼性のある不確実性評価を実現すること。
• 深層ガウス過程を用いて、ハイパーパrameterに依存しないマルチフィidelityベイズ最適化アルゴリズムを開発すること。
• 今後のパルスフロー反応器開発のための物理的洞察を、最適化された幾何形状に基づいて得ること。

提案手法

• 本手法は、軸方向および径方向分解能に基づく5つの離散的メッシュフィidelity（以下、fidelity）と、それらがもたらすプラグフロー特性Nとの関係を、深層ガウス過程（DGPs）でモデル化する。
• MF-GP-UCBをインspiredした、次回の設計点と最適なフィidelityレベルを、予測不確実性とシミュレーションコストに基づいて選択する、修正されたマルチフィidelityベイズ最適化アルゴリズムを提案する。
• フィidelity選択は、コスト重み付きの獲得関数に従う：$ t^* = \arg\max_t \{ \gamma_t \beta^{1/2} \sigma_t(x^*) \} $、ここで $ \gamma_t = \max(\tau)/\tau_t $ であり、$ \tau_t $ はフィidelity $ t $ における平均シミュレーション時間である。
• DGPモデルにより、フィidelity間で不確実性をエンドツーエンドに伝播可能とし、不確実性が高くかつ計算コストが低い段階では低フィidelity評価を優先できる。
• 初期のDGPトレーニングには、全フィidelityでのシミュレーションが必要であり、最適化中の収束を早めるというトレードオフである。
• 標準的なUCBベイズ最適化に追加のハイパーパrameterを必要としないように設計されており、事前知識が限られた状況でも頑健性を発揮する。

実験結果

リサーチクエスチョン

• RQ1 深層ガウス過程は、異なるメッシュ分解能を有するコイルチューブリアクターのマルチフィidelity CFDシミュレーションを効果的にモデル化できるか？
• RQ2 不確実性に基づくフィidelity選択を用いて複数のフィidelityを統合することで、最適化の効率性と解の正確性はどのように向上するか？
• RQ3 事前知識のない工学的設計問題において、マルチフィidelityベイズ最適化に最適な離散的フィidelity数はいくつか？
• RQ4 低フィidelityシミュレーションは、正確性を損なわずに、高性能なリアクター幾何形状を特定するのにどの程度貢献するか？
• RQ5 最適化されたリアクター幾何形状から得られる物理的洞察は、今後のパルスフロー用コイルチューブリアクター開発にどのように活用できるか？

主な発見

• 5つの離散的メッシュフィidelityは、プラグフロー特性Nの予測精度が上昇しており、高フィidelityは実験データとよく一致した。
• DGPに基づくマルチフィidelityベイズ最適化フレームワークにより、大きなコイル半径と低いピッチを持つ最適なリアクター幾何形状が特定され、プラグフロー性能の向上が達成された。
• 不確実性が高いが計算コストが低い段階では、低フィidelityシミュレーションを動的に選択することで、全体の評価時間を顕著に削減した。
• 著者らは、実用上は利用可能なフィidelityが増えていても、2〜3つのフィidelityのみを用いることを推奨しており、過剰なハイパーパrameter負荷と収束の遅れを回避する。
• 標準的なUCBに追加のハイパーパrameterを必要としないアルゴリズムは、事前知識が限られた現実の工学的問題に対しても、頑健な性能を示した。
• 実験データとの検証により、最高フィidelityシミュレーションが真のプラグフロー行動をよく再現していることが確認され、正確な設計最適化に向けたマルチフィidelityモデリングの有効性が裏付けられた。