[論文レビュー] Quantum chemistry-augmented neural networks for reactivity prediction: Performance, generalizability and interpretability

Thijs Stuyver, Connor W. Coley|arXiv (Cornell University)|Jul 22, 2021

Machine Learning in Materials Science参考文献 19被引用数 6

ひとこと要約

本論文は、密度汎関数理論（DFT）から得られる反応性記述子（Fukui関数、原子スピン、NMRシールド定数など）を構造ベースのGNNに統合することで、反応性予測の性能を向上させる量子化学補正付きグラフニューラルネットワーク（ml-QM-GNN）を提案する。このモデルは、データが限られた状況下でも、反応性分類と活性化エネルギー回帰の両面で最先端の性能を達成しており、物理有機化学の原則に基づいた解釈可能性も提供する。

ABSTRACT

There is a perceived dichotomy between structure-based and descriptor-based molecular representations used for predictive chemistry tasks. Here, we study the performance, generalizability, and interpretability of the recently proposed quantum mechanics-augmented graph neural network (ml-QM-GNN) architecture as applied to the prediction of regioselectivity (classification) and of activation energies (regression). In our hybrid QM-augmented model architecture, structure-based representations are first used to predict a set of atom- and bond-level reactivity descriptors derived from density functional theory (DFT) calculations. These estimated reactivity descriptors are combined with the original structure-based representation to make the final reactivity prediction. We demonstrate that our model architecture leads to significant improvements over structure-based GNNs in not only overall accuracy, but also in generalization to unseen compounds. Even when provided training sets of only a couple hundred labeled data points, the ml-QM-GNN outperforms other state-of-the-art model architectures that have been applied to these tasks. Further, because the predictions of our model are grounded in (but not restricted to) QM descriptors, we are able to relate predictions to the conceptual frameworks commonly used to gain qualitative insights into reactivity phenomena. This effort results in a productive synergy between theory and data science, wherein our QM-augmented models provide a data-driven confirmation of previous qualitative analyses, and these analyses in their turn facilitate insights into the decision-making process occurring within ml-QM-GNNs.

研究の動機と目的

• データ駆動型機械学習と量子化学の間のギャップを埋えるために、物理的に意味のある記述子をグラフニューラルネットワークに統合すること。
• 特に学習データが数100例程度に限られる状況下でも、反応性予測モデルの性能と一般化能力を向上させること。
• 物理有機化学の確立された概念的枠組みに基づいて、モデルの解釈可能性を高めること。
• QM補正モデルが、定性的な反応性傾向を再現・確認できることを検証し、意思決定プロセスにデータ駆動型の洞察を提供できることを示すこと。
• ハイブリッドモデルが、多様な反応性予測タスクにおいて、純粋な構造ベースのGNNよりも精度と頑健性に優れていることを示すこと。

提案手法

• ml-QM-GNNはまず、分子のトポロジーから原子および結合レベルの反応性記述子を予測する構造ベースのGNNを用いる。
• これらの記述子はDFT計算から得られ、Fukui関数、原子スピン（NPAによる）、NMRシールド定数を含む。
• 予測されたDFT記述子を元の分子グラフ表現と連結することで、最終的な反応性予測に向けた強化された入力を構築する。
• 最終的なモデルは、分類（regioselectivity）と回帰（activation energy）の両タスクを統合的に最適化するハイブリッドアーキテクチャを用いてエンドツーエンド学習を行う。
• 特定の記述子（例：ハード-ハード対比ソフト-ソフト記述子）の寄与を分離するアブレーションスタディにより、モデルの解釈可能性を向上させる。
• 性能評価は、E2/SN2および芳香族置換反応データセットに対して5分割交差検証と選択的サンプリングを用い、ベースラインGNNおよび他の最先端モデルと比較する。

実験結果

リサーチクエスチョン

• RQ1 DFTから得られる反応性記述子をGNNアーキテクチャに統合することで、特にデータが少ない状況下でも予測精度と一般化能力が顕著に向上するか？
• RQ2 量子化学的記述子の統合が、反応性予測における機械学習モデルの解釈可能性をどのように向上させるか？
• RQ3 ml-QM-GNNの予測は、HSAB概念やフロンティアオビタル理論といった確立された物理有機化学の原則とどの程度整合するか？
• RQ4 異なる種類の反応性記述子（例：ハード-ハード対比ソフト-ソフト）が、モデルの性能と意思決定プロセスにどの程度寄与するか？
• RQ5 わずか数100例のラベル付きデータ点で学習させた場合でも、未観測の化合物や反応種に一般化して効果的に機能するか？

主な発見

• E2/SN2データセットにおいて、200件の学習データポイントでのテストRMSEは5.35 ± 0.08 kcal/molに達し、同等条件下で通常のGNN（RMSE = 16.77 ± 0.27 kcal/mol）を上回る性能を示した。
• 芳香族置換反応データセットでは、5分割交差検証で分類精度98.8％（1499/1516）を達成し、予測と物理有機化学的基準との間に高い一貫性を示した。
• アブレーションスタディの結果、ハード-ハード記述子（スピン、NMRシールド）とソフト-ソフト記述子（Fukui関数）に依存するモデルはそれぞれ異なる反応性パターンを捉えており、完全なモデルが両方のアブレーションバージョンを上回った。
• モデルの予測は、物理有機化学における静電的およびフロンティアオビタル基準と高く整合しており、両基準を満たす1499件中783件がすべてのモデルで正しく分類された。
• わずか200件のラベル付きデータでさえ、ml-QM-GNNは最先端モデルを上回る一般化性能を示し、データが限られた状況下での頑健性を実証した。
• QM記述子の統合により、モデル意思決定の意味のある解釈が可能となり、HSABや概念的DFTといった確立された理論的枠組みと結びつけることができた。