[論文レビュー] Hybrid localized graph kernel for machine learning energy-related properties of molecules and solids

Bastien Casier, Maurício Chagas da Silva+5 more|arXiv (Cornell University)|Nov 14, 2020

Machine Learning in Materials Science参考文献 72被引用数 4

ひとこと要約

本稿では、化学的パターン認識に適したラベル付きグラフカーネルと、微細な幾何的詳細を捉えるコロンブラベルを組み合わせたハイブリッド局所的グラフカーネル（HMPP）を提案する。この手法により、分子および固体のエネルギー関連性質の予測における回帰精度が顕著に向上した。QM7およびBA10データセットにおいて、HMPPカーネルはSOAPおよび従来のグラフカーネルを上回り、特に訓練データ量が大きい場合に顕著な性能向上を示し、解離および生成エネルギー予測において最先端の性能を達成した。

ABSTRACT

Nowadays, the coupling of electronic structure and machine learning techniques serves as a powerful tool to predict chemical and physical properties of a broad range of systems. With the aim of improving the accuracy of predictions, a large number of representations for molecules and solids for machine learning applications has been developed. In this work we propose a novel descriptor based on the notion of molecular graph. While graphs are largely employed in classification problems in cheminformatics or bioinformatics, they are not often used in regression problem, especially of energy-related properties. Our method is based on a local decomposition of atomic environments and on the hybridization of two kernel functions: a graph kernel contribution that describes the chemical pattern and a Coulomb label contribution that 1encodes finer details of the local geometry. The accuracy of this new kernel method in energy predictions of molecular and condensed phase systems is demonstrated by considering the popular QM7 and BA10 datasets. These examples show that the hybrid localized graph kernel outperforms traditional approaches such as, for example, the smooth overlap of atomic positions (SOAP) and the Coulomb matrices.

研究の動機と目的

• 量子化学および材料科学における機械学習回帰のためのより高精度な構造記述子の開発。
• エネルギー関連性質予測に不可欠な微細な幾何的変化を捉えられない従来のグラフカーネルの限界の解消。
• ハイブリッドカーネルフレームワークを用いて、トポロジー的グラフパターンと微細な幾何的情報を統合。
• 局所的原子環境分解を活用することで、汎化性能および学習スケーラビリティの向上。
• 特に訓練データ量の増加に伴う性能向上を示す、ベンチマークデータセットにおけるエネルギー的性質予測の優れた性能の実証。

提案手法

• 本手法は、分子および固体系を局所的原子環境に分解することで、局所的な類似性計算を可能にする。
• 化学的結合性および原子種のパターンを符号化するためにラベル付きグラフカーネル（LGK）を採用する。
• インタラクティブな原子間距離や電荷といった詳細な幾何的情報を捉えるためにコロンブラベル成分を用いる。
• ハイパーパrameter α を用いて、トポロジー的寄与と幾何的寄与のバランスを調整する。
• 最終的なカーネルは、エネルギー予測にカーネルリッジ回帰（KRR）またはガウス過程回帰（GPR）に適用される。
• 回転、平行移動、原子の置換に対して不変性を確保することで、重要な対称性要件を満たす。

実験結果

リサーチクエスチョン

• RQ1 グラフトポロジーと幾何的詳細を統合したハイブリッドカーネルは、分子および固体におけるエネルギー的性質の回帰精度を向上させ得るか？
• RQ2 標準的なデータセットにおいて、SOAPやコロンブ行列といった既存の記述子と比較して、ハイブリッド局所的グラフカーネルの性能はどの程度か？
• RQ3 訓練データセットサイズの増加に伴い、ハイブリッドカーネルは学習効率およびスケーラビリティを維持または向上させるか？
• RQ4 コロンブラベルの導入により、構造的に類似しているがエネルギー的に異なる配置を区別する能力がどの程度向上するか？
• RQ5 本手法は、分子および二元合金を含む多様な化学系に、効果的に一般化可能か？

主な発見

• QM7データセットにおいて、HMPPカーネルは1000個の訓練構造を用いて、平均絶対誤差（MAE）0.12 kcal/molおよび平均二乗誤差（RMSE）0.17 kcal/molを達成した。
• BA10データセットでは、訓練データサイズが1000を超えた段階でSOAPを上回り、学習曲線の飽和が遅かった。
• BA10データセットにおいて、HMPPカーネルはMAE 0.12 kcal/molおよびRMSE 0.17 kcal/molを達成し、最先端のMBTRカーネルと同等の性能を示した。
• 訓練データ量の増加に伴い、誤差が安定して減少する傾向を示したが、SOAPは1000点を超えると性能が飽和した。
• BA10データセットに含まれる大部分の二元合金において、HMPPカーネルはSOAPよりも低いRMSEを示したが、AlMgではハイパーパrameterチューニングの制限が性能に影響を与えた。
• ハイブリッドカーネルは、特に複雑な電子構造を持つ凝縮相系において、エネルギー回帰タスクにおける優れた汎化性能とロバストネスを示した。