[論文レビュー] Predicting thermoelectric properties from crystal graphs and material descriptors - first application for functional materials

Léo Laugier, Daniil Bash+6 more|arXiv (Cornell University)|Nov 15, 2018

Machine Learning in Materials Science被引用数 3

ひとこと要約

本研究では、結晶グラフ（CGCNN）、全結合ニューラルネットワーク（FCNN）、XGBoostを用い、結晶および原子記述子を活用することで、熱電力因子を予測する機械学習フレームワークを提案する。FCNNはDFTに基づく材料記述子を用いることで、CGCNN や XGBoost を上回る性能を示し、物理的知見に基づく特徴量が機能材料の性質を正確に予測するために不可欠であることを示している。

ABSTRACT

We introduce the use of Crystal Graph Convolutional Neural Networks (CGCNN), Fully Connected Neural Networks (FCNN) and XGBoost to predict thermoelectric properties. The dataset for the CGCNN is independent of Density Functional Theory (DFT) and only relies on the crystal and atomic information, while that for the FCNN is based on a rich attribute list mined from Materialsproject.org. The results show that the optimized FCNN is three layer deep and is able to predict the scattering-time independent thermoelectric powerfactor much better than the CGCNN (or XGBoost), suggesting that bonding and density of states descriptors informed from materials science knowledge obtained partially from DFT are vital to predict functional properties.

研究の動機と目的

• 計算的に高コストなDFTおよびボルツマン輸送計算の代わりに機械学習を用いることで、機能的熱電材料の発見を加速すること。
• DFT入力を必要としない結晶グラフベースのモデル（CGCNN）が、熱電力因子を正確に予測できるかどうかを調査すること。
• Materials ProjectおよびMatminerから抽出された豊富な材料記述子を用いて、FCNNおよびXGBoostの性能を評価すること。
• DFTに基づく記述子が、基本的な結晶および原子的特徴量と比較して、予測精度を顕著に向上させるかどうかを特定すること。
• 理論的データセット上で訓練された機械学習モデルを用いた今後のデータ駆動型熱電材料設計の基盤を確立すること。

提案手法

• DFT入力を一切使用せずに、結晶構造および原子情報のみを用いて結晶グラフ畳み込みニューラルネットワーク（CGCNN）を訓練した。
• Materials Projectを介してMatminerで抽出した28種類の材料記述子（結合性質、原子性質、電子的性質など）を用いて、全結合ニューラルネットワーク（FCNN）を構築した。
• 深層学習手法と比較するためのベースラインとして、勾配ブースティング手法であるXGBoostを適用した。
• モデルの訓練および評価のための真値ラベルとして、DFT＋ボルツマン輸送方程式（BTE）で計算された力因子を用いた。
• FCNNおよびXGBoostのハイパーパrameter最適化にベイズ的ハイパーパrameterサーチを用い、損失関数をMSE、最適化手法をRMSPropとした。
• 7,230化合物のドーピング、温度、結晶方位のばらつきを含む2,819,682件のデータポイントから構成されるデータセットを用いて、平均絶対誤差（MAE）を指標にモデル性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 DFT入力を一切使用しない結晶および原子構造にのみ依存するCGCNNモデルが、正確に熱電力因子を予測できるか？
• RQ2 豊富な材料記述子を用いたFCNNの性能は、CGCNNおよびXGBoostと比較して、DFT＋BTE力因子の予測においてどのように異なるか？
• RQ3 DFTに基づく記述子（例：結合性質、状態密度）が、基本的な構造的特徴量と比較して、予測精度をどの程度向上させるか？
• RQ4 物理的知見に基づく記述子の導入が、機能材料の性質予測におけるモデルの能力を顕著に向上させるか？
• RQ5 理論的データセット上で訓練された機械学習モデルは、熱電材料スクリーニングにおいて、高コストなDFTおよびBTE計算の信頼できる代替手段として機能できるか？

主な発見

• 3層の全結合層と最適化されたハイパーパramータを有するFCNNモデルが、熱電力因子予測において最高の精度を達成した。
• FCNNはCGCNNおよびXGBoostを上回った。これは、結合性質や状態密度といったDFTに基づく記述子が、正確な予測に不可欠であることを示している。
• DFT入力を一切使用しないCGCNNは、FCNNおよびXGBoostよりも性能が低く、構造的特徴量のみでは不十分であることが示された。
• 最も優れたFCNNは、3層にそれぞれReLU、tanh、シグモイド活性化関数を用い、ニューロン数は50、41、41であった。また、RobustスケーラーとRMSProp最適化手法を採用した。
• 本モデルは、見出し係数のみを予測する先行研究よりも平均絶対誤差（MAE）が低く、さまざまな温度範囲で30％～46％の改善が見られた。
• 不安定な多形や現実的でない化合物を含むデータセットの制限にもかかわらず、FCNNは優れた一般化性能を示し、機械学習駆動の材料発見において記述子の豊かさの価値を強力に示している。