[論文レビュー] The Automated Discovery of Kinetic Rate Models -- Methodological Frameworks

Miguel Ángel de Carvalho Servia, Ilya Orson Sandoval+5 more|arXiv (Cornell University)|Jan 26, 2023

Machine Learning in Materials Science被引用数 4

ひとこと要約

本稿では、情報情報基準を用いた厳密なモデル選択と組み合わせた記号的回帰を用いて、触媒反応速度論的モデルを自動で発見する2つのフレームワーク、ADoK-SおよびADoK-Wを提案する。遺伝的プログラミングによるモデル生成とMBDoE（マルチ・ブロック・ベイジアン実験設計）に基づく逐次最適化を統合することで、3つの複雑な事例において限られたノイズの多いデータから真の速度論的メカニズムを的確に回復し、化学反応工学分野への応用における頑健性とスケーラビリティを示した。

ABSTRACT

The industrialization of catalytic processes requires reliable kinetic models for their design, optimization and control. Mechanistic models require significant domain knowledge, while data-driven and hybrid models lack interpretability. Automated knowledge discovery methods, such as ALAMO (Automated Learning of Algebraic Models for Optimization), SINDy (Sparse Identification of Nonlinear Dynamics), and genetic programming, have gained popularity but suffer from limitations such as needing model structure assumptions, exhibiting poor scalability, and displaying sensitivity to noise. To overcome these challenges, we propose two methodological frameworks, ADoK-S and ADoK-W (Automated Discovery of Kinetic rate models using a Strong/Weak formulation of symbolic regression), for the automated generation of catalytic kinetic models using a robust criterion for model selection. We leverage genetic programming for model generation and a sequential optimization routine for model refinement. The frameworks are tested against three case studies of increasing complexity, demonstrating their ability to retrieve the underlying kinetic rate model with limited noisy data from the catalytic systems, showcasing their potential for chemical reaction engineering applications.

研究の動機と目的

• 既存の自動知識発見手法における速度論的モデル生成の限界、例えば構造的仮定、スケーラビリティの低さ、ノイズへの感受性を解消すること。
• 事前のメカニズム的知識を必要とせず、解釈可能な速度論的モデルを自動で発見する、頑健で汎用性の高いフレームワークの構築。
• AIC/BICなどの情報基準を用いた厳密なモデル選択を統合し、モデルランク付けにおける統計的妥当性と透明性を確保すること。
• MBDoE（マルチ・ブロック・ベイジアン実験設計）を用いて逐次的実験を誘導することで、データ効率を向上させ、反復的にモデルの正確性を向上させること。
• 段階的に複雑化する触媒系、具体的には異性化反応、N₂O分解、トロリルエンの水素化脱アルキル化反応におけるフレームワークの有効性を実証すること。

提案手法

• 記号的回帰を用いて、速度則の候補となる多様な記号的式の空間を探索し、柔軟でデータ駆動のモデル生成を可能にする。
• 非線形最小二乗法によるフィッティングを用いて、実験データからの濃度プロファイルに基づき、モデルのパラメータを段階的に最適化する逐次最適化ルーチンを適用する。
• AICおよびBICを情報基準として用い、適合度と複雑さの最適なバランスを実現する客観的で透明なモデル選択を実現する。
• MBDoEを統合し、現在のモデル予測の不確実性に基づいて新たな実験を戦略的に設計することで、データ効率と収束性を向上させる。
• 頑健性を高めるために、強形式（ADoK-S）と弱形式（ADoK-W）の記号的回帰を用いる：ADoK-Sは直接的に速度式をモデル化するが、ADoK-Wは統合された濃度プロファイルを用いる。
• 各イテレーション後に新たな実験データを連結することで、真の速度論的メカニズムに収束するように段階的にモデル発見を改善する。

実験結果

リサーチクエスチョン

• RQ1 限られたノイズの多い実験データから、事前のメカニズム的仮定を必要とせず、真の速度論的速度則を自動で記号的回帰フレームワークが発見できるか？
• RQ2 情報基準（AIC/BIC）の統合は、ヒューリスティック的または非透明な基準と比較して、速度論的モデル発見におけるモデル選択の頑健性をどのように向上させるか？
• RQ3 MBDoEに基づく逐次的実験が、自動速度論的モデル発見の正確性と収束性をどの程度向上させるか？
• RQ4 ADoK-SおよびADoK-Wにおける強形式と弱形式の違いは、複雑性が増す系において性能と頑健性にどのように影響するか？
• RQ5 提案されたフレームワークは、実際の触媒系において真の速度則と一致する解釈可能な物理的意味を持つ速度式を回復できるか？

主な発見

• ADoK-Sは、トロリルエンの水素化脱アルキル化反応について、わずか5回の初期実験で真の速度論的モデルを回復した。そのモデルは構造的に同一で、パラメータも類似しており、$\hat{r}^{*} = \frac{1.124C_{T}C_{H}}{1+4.932C_{B}+2.928C_{T}}$ であった。
• 異性化反応の事例では、ADoK-Wは6回の実験後に真の速度則を再発見し、$\hat{r}^{*} = \frac{9.998C_{A}-4.496C_{B}+0.386}{6.038C_{A}+2.137C_{B}+7.892}$ を達成した。これはわずかな余分なパラメータを除き、ほとんど差がない。
• N₂O分解反応の事例では、ADoK-Wは7回の実験後に正しいモデル構造 $\hat{r}^{*} = \frac{1.584C_{N_{2}O}^{2}}{1+3.798C_{N_{2}O}}$ を発見した。これは高いノイズと複雑なダイナミクス下でも回復が可能であることを示している。
• フレームワークはノイズの多いデータや初期段階での低品質なデータに対しても耐性を示し、AIC/BICによるモデル選択が誤った候補を効果的にフィルタリングした。
• MBDoEの統合により、ランダムまたは一様なサンプリングに比べて、はるかに高いデータ効率が実現され、少ない実験回数でモデル発見が可能になった。
• 回収されたすべてのモデルは、真の速度論的式と構造的・パrametricに近く、本手法の頑健性と解釈可能性が確認された。