[論文レビュー] An Atomistic Machine Learning Package for Surface Science and Catalysis

Martin Hangaard Hansen, José Antonio Garrido Torres+5 more|arXiv (Cornell University)|Apr 1, 2019

Machine Learning in Materials Science参考文献 41被引用数 29

ひとこと要約

この論文では、表面科学および多相触媒反応に特化した機械学習ソフトウェアパッケージであるCatLearnを紹介する。本パッケージは、ガウス過程と正則化線形モデルを用いて特徴量工学、記述子選択、モデル学習を自動化する。不確実性を考慮したガウス過程回帰が線形モデルを上回ることを示し、SISによる事前スクリーニングが精度を向上させないことを明らかにした。これは、触媒材料の発見において、直感に依存しない自動化されたモデル構築の価値を示している。

ABSTRACT

We present work flows and a software module for machine learning model building in surface science and heterogeneous catalysis. This includes fingerprinting atomic structures from 3D structure and/or connectivity information, it includes descriptor selection methods and benchmarks, and it includes active learning frameworks for atomic structure optimization, acceleration of screening studies and for exploration of the structure space of nano particles, which are all atomic structure problems relevant for surface science and heterogeneous catalysis. Our overall goal is to provide a repository to ease machine learning model building for catalysis, to advance the models beyond the chemical intuition of the user and to increase autonomy for exploration of chemical space.

研究の動機と目的

• 表面科学および触媒反応における機械学習モデル構築を、体系的かつ自動化されたワークフローで簡素化すること。
• データ駆動型のモデル開発により、現在の化学的直感を超えた化学的空間の自律的探索を可能にすること。
• ガウス過程による不確実性推定を統合することで、触媒インフォマティクスにおける予測精度を向上させること。
• 原子スケールのデータセットに対して、複数の記述子選択およびモデルトレーニング戦略をベンチマーク・比較すること。
• GNU GPL 3.0 ライセンスの下で、触媒コミュニティ向けにスケーラブルかつ拡張可能なソフトウェアリポジトリ（CatLearn v1.0.0）を構築すること。

提案手法

• CatLearnは、原子構造のインポートおよび処理にAtomic Simulation Environment (ASE) を使用し、3次元幾何学および結合性から自動的に特徴量を生成する。
• 非等方的平方指数カーネルを用いたガウス過程回帰（GPR）を実装し、不確実性推定および誘導変数（例：力）の予測を可能にする。
• 特徴量の選択には感度除去法とSure Independence Screening (SIS) を用い、拡張された特徴量集合に対してピアソン、スピアマン、ケンドール相関を計算する。
• 正則化線形モデル（LASSO、リッジ）をベンチマークとして用い、高次元特徴空間における事前スクリーニングにも適用する。
• GPRによる不確実性推定を活用することで、ナノ粒子の構造空間の最適化および探索を支援する、アクティブラーニングワークフローを実装する。
• 組み合わせ的特徴量拡張（例：$x_i \cdot x_j$, $\log(x)$, $\sqrt{x}$）を実施した後、次元削減を適用し、非線形相関を同定する。

実験結果

リサーチクエスチョン

• RQ1 自動化された記述子選択およびモデルトレーニングワークフローは、人間の直感を超えて触媒インフォマティクスにおける予測精度を向上させることができるか？
• RQ2 不確実性推定を伴うガウス過程回帰は、表面における吸着体エネルギーの予測において線形モデルと比べてどのように異なるか？
• RQ3 組み合わせ的特徴量拡張に続いてSISによる事前スクリーニングを実施することで、原子スケールのデータセットにおけるモデル性能が向上するか？
• RQ4 相関関係にある特徴量が、表面科学の応用におけるモデルの一般化性能および不確実性推定に与える影響は何か？
• RQ5 不確実性推定に基づくアクティブラーニングフレームワークは、安定な表面構造および触媒材料の発見を加速できるか？

主な発見

• 自動関連性決定を用いたガウス過程回帰（GPR）は、線形モデルを上回る優れた予測性能を示し、元の特徴量セットにおいて平均絶対誤差（MAE）は約0.14 eVであった。
• 組み合わせ的特徴量拡張により特徴量空間は44,548次元に拡大されたが、その後のSIS事前スクリーニングにより重要な特徴量が失われ、モデルの精度が低下した。
• 特徴量拡張およびSIS処理後、GPRモデルのRMSEおよびMAEが悪化し、MAEは0.14 eVから0.18 eVに上昇した。これは、SISがこの文脈では予測性能を維持するのに効果的でないことを示している。
• 感度除去法により特徴量間の相関が低減された一方で、良好な予測スコアを維持できた。これは、記述子選択において有効であることを示している。
• 正則化線形モデル（LASSO、リッジ）はベンチマークおよび高速な記述子スクリーニングとして有効であったが、同じデータにおいてGPRの性能を上回ることはできなかった。
• CatLearnパッケージは、GPRからの不確実性推定を活用することで、アクティブラーニングワークフローを可能にし、化学的空間の効率的探索および原子構造の最適化を促進する。