[論文レビュー] Bayesian Design of Experiments: Implementation, Validation and Application to Chemical Kinetics

Eric A. Walker, Kishore Ravisankar|arXiv (Cornell University)|Sep 9, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 46被引用数 4

ひとこと要約

本論文は、化学速度論における実験最適化のためのベイジアン実験設計（BED）フレームワークを提示する。期待情報ゲインを用いて温度や反応器体積などの実験変数の選定をガイドする。線形回帰、反応自由エネルギーモデル、触媒膜反応器の3つの事例を通じて、数値的・解析的ベンチマークを用いて手法を検証し、グリッドサーチ初期化に基づく差分進化および勾配上昇法を用いて実験設計を最適化する。

ABSTRACT

Bayesian experimental design (BED) is a tool for guiding experiments founded on the principle of expected information gain. I.e., which experiment design will inform the most about the model can be predicted before experiments in a laboratory are conducted. BED is also useful when specific physical questions arise from the model which are answered from certain experiments but not from other experiments. BED can take two forms, and these two forms are expressed in three example models in this work. The first example takes the form of a Bayesian linear regression, but also this example is a benchmark for checking numerical and analytical solutions. One of two parameters is an estimator of the synthetic experimental data, and the BED task is choosing among which of the two parameters to inform (limited experimental observability). The second example is a chemical reaction model with a parameter space of informed reaction free energy and temperature. The temperature is an independent experimental design variable explored for information gain. The second and third examples are of the form of adjusting an independent variable in the experimental setup. The third example is a catalytic membrane reactor similar to a plug-flow reactor. For this example, a grid search over the independent variables, temperature and volume, for the greatest information gain is conducted. Also, maximum information gain is conducted is optimized with two algorithms: the differential evolution algorithm and steepest ascent, both of which benefitted in terms of initial guess from the grid search.

研究の動機と目的

• 実験を実施する前に対象となる未知パラメータの情報ゲインを最大化するように最適化する、化学速度論向けのベイジアン実験設計（BED）フレームワークの開発および検証を目的とする。
• 情報ゲインを最適化基準として用いることで、実験観測の制限を考慮し、どのパラメータを測定するかを選択することで、限られた実験観測可能性を克服することを目的とする。
• 反応自由エネルギーモデルおよび触媒膜反応器を含む実際の化学系にBEDを適用し、最適な実験設定を導くことを目的とする。
• 数値的・解析的解を比較検証することで、ベンチマーク線形回帰モデルにおける手法の正確性を確認することを目的とする。
• グローバルおよびローカル最適化アルゴリズムを用いて、温度や体積などの実験設計変数を最適化し、グリッドサーチ初期化によって得られた初期推定値を活用することを目的とする。

提案手法

• 期待情報ゲインを目的関数としてBEDを定式化し、各実験設計がモデルパラメータの不確実性をどの程度低減するかを定量化する。
• 数値的解の検証のため、解析的結果と照合可能なベンチマークとしてベイジアン線形回帰を用いる。
• 自由エネルギーと温度をパラメータとする化学反応モデルを採用し、温度を調整可能な実験設計変数として扱う。
• 温度と反応器体積のグリッドサーチを実施し、情報ゲインが最大となる領域を特定する。
• 差分進化および勾配上昇法を用いて実験設計を最適化し、グリッドサーチの結果を初期推定値として活用する。
• 線形回帰のケースでは解析的解との比較により結果を検証し、化学速度論モデルではシミュレーションベースの評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンフレームワークにおいて、未知パラメータを推定する際に、どの実験設計が最大の期待情報ゲインをもたらすか？
• RQ2 情報ゲインに基づいてどのパラメータを測定するかを選択することで、限られた実験観測可能性はどのように克服できるか？
• RQ3 差分進化や勾配上昇法などの数値最適化手法は、化学速度論における実験設計の改善にどの程度寄与できるか？
• RQ4 グリッドサーチ初期化は、BEDにおける最適化アルゴリズムの収束性および性能をどのように向上させるか？
• RQ5 解析的ベンチマークと実際の化学系への応用を組み合わせることで、BEDフレームワークは信頼性を持って検証可能か？

主な発見

• ベイジアン実験設計フレームワークは、物理的実験を実施する前に対象となる最適な実験条件を特定でき、リソースの無駄遣いを最小限に抑えることに成功した。
• ベンチマーク線形回帰モデルでは、数値的解が解析的結果とよく一致することから、数値的解の正確性が確認された。
• 反応自由エネルギーモデルでは、温度が情報ゲインに顕著に影響を与える重要な設計変数であることが同定された。
• 触媒膜反応器では、特定の温度と体積の組み合わせが最適設計として特定され、最適化により情報ゲインが最大に達成された。
• 差分進化および勾配上昇法の両方とも、高情報ゲインの設計を効果的に特定でき、グリッドサーチによる初期推定値が安定した初期化を提供した。
• 本手法は多様な化学速度論的問題にスケーラブルかつロバストに適用可能であり、実世界の実験計画に応用可能な可能性を示した。