[論文レビュー] Atomistic graph networks for experimental materials property prediction

Tian Xie, Victor Bapst+6 more|arXiv (Cornell University)|Mar 25, 2021

Machine Learning in Materials Science参考文献 2被引用数 6

ひとこと要約

本稿では、大規模なDFTシミュレーションから転移可能な物質埋め込みを学習し、実験的形成エネルギーの予測を向上させるためのア tomisticグラフネットワーク（AGN）を提案する。構造的シミュレーションデータ上でグラフニューラルネットワーク（GNN）を訓練して形成エネルギーを予測し、限られた実験データでファインチューニングすることで、特に困難な一般化設定下でも、データ効率性が向上した最先端の性能を達成する。

ABSTRACT

Machine Learning (ML) has the potential to accelerate discovery of new materials and shed light on useful properties of existing materials. A key difficulty when applying ML in Materials Science is that experimental datasets of material properties tend to be small. In this work we show how material descriptors can be learned from the structures present in large scale datasets of material simulations; and how these descriptors can be used to improve the prediction of an experimental property, the energy of formation of a solid. The material descriptors are learned by training a Graph Neural Network to regress simulated formation energies from a material's atomistic structure. Using these learned features for experimental property predictions outperforms existing methods that are based solely on chemical composition. Moreover, we find that the advantage of our approach increases as the generalization requirements of the task are made more stringent, for example when limiting the amount of training data or when generalizing to unseen chemical spaces.

研究の動機と目的

• 大規模なDFTシミュレーションデータを活用して、小規模な実験的データセットの課題を克服する。
• 構成情報のみに依存するモデルの限界を乗り越えるために、機械学習モデルに原子的構造情報を組み込む。
• シミュレーションされた形成エネルギーから実験的形成エネルギー予測へ知識を転送する転移学習フレームワークを開発する。
• 未知の化学空間への一般化を改善し、訓練データが少ない状況でも性能を向上させるデータ効率性を向上させる。
• 未知の化合物に対する補間ベースの予測を可能にする連続的かつ微分可能な物質構造埋め込み空間を構築する。

提案手法

• 原子的構造からDFTで計算された形成エネルギーを予測するためのグラフニューラルネットワーク（GNN）トランクを訓練し、転移可能な構造埋め込みを学習する。
• 二重ヘッドアーキテクチャを採用：一方のヘッドはシミュレーションされた形成エネルギーを回帰し、もう一方のヘッドは共有のGNNトランクを用いて実験データでファインチューニングする。
• 埋め込み空間における凸包に類似した補間スキームを適用し、シミュレーションデータに安定したマッチが存在しない化合物の実験的物性を予測する。
• 原子の位置と原子間距離をエッジ特徴としてエンコードするグラフネットワークを用いて、構造的インダクティブバイアスを組み込む。
• 3次元ベクトルエッジ特徴を用いる際、回転不変性を向上させるためにランダムな3次元回転によるデータ拡張を実施する。
• 交差検証を用いて保持された検証スプリット上で、ハイパーパramータ（特に補間重みαを含む）を最適化する。

実験結果

リサーチクエスチョン

• RQ1 DFTシミュレーションで訓練されたグラフニューラルネットワークは、実験的形成エネルギーの予測を向上させるために、転移可能な構造埋め込みを学習できるか？
• RQ2 構成情報のみに依存するモデルと比較して、原子的構造情報を組み込むことで、予測性能にどのような影響を与えるか？
• RQ3 本手法は、特に訓練データが限られている場合や、未知の化学空間への一般化を行う場合に、データ効率性を向上させるか？
• RQ4 シミュレーションデータに安定したマッチが存在しない実験的化合物を予測する際、性能はどの程度低下するか？
• RQ5 グラフネットワークのどの構成要因（ノード、エッジ、グローバル構成）が予測性能に最も寄与しているか？

主な発見

• 提案されたア tomisticグラフネットワーク（AGN）は、実験的形成エネルギー予測において、0.24 eV/atomの新たな最先端の平均絶対誤差を達成した。
• 本手法は、構成情報のみのモデルや構造情報を利用しないベースラインGNNと比較して、特にデータが乏しく、分布外一般化を行う状況下で顕著に優れた性能を示した。
• シミュレーションデータに安定したマッチが存在しない化合物の予測においても、性能の低下はわずかに抑えられており、構造の新規性に対しても頑健であることが示された。
• 化合物の形成エネルギーおよび構造的近接性の複雑さを測る指標である逆参加比（ipr）とは相関が弱く、誤差は主に結晶構造が完全に未知の状態（ipr ≈ 1）のときに最大に増加した。
• アブレーションスタディの結果、原子番号特徴がグローバル構成やエッジ距離よりもより重要であり、3次元ベクトルエッジと回転拡張を用いても性能向上が見られなかった。これは、シミュレーション性能と一般化性能のトレードオフが原因である可能性がある。
• 最適な補間重みαは1であると判明し、凸包に基づく補間スキームが学習済み埋め込みとバランスを取った際に最も効果的であることが示された。