[論文レビュー] A melting temperature database and a neural network model for melting temperature prediction

Qi‐Jun Hong|arXiv (Cornell University)|Oct 20, 2021

Neural Networks and Applications被引用数 10

ひとこと要約

本論文では、約9,375種の材料から構成された新規に整備されたデータベースを用いて学習された、グラフニューラルネットワーク（GNN）とリーマンネットワーク（ResNet）アーキテクチャを組み合わせた機械学習モデルを紹介する。モデルはトレーニングセットで90 K、テストセットで160 Kの平均二乗誤差（RMSE）を達成し、リアルタイム予測が可能な公開オンラインサービスとして提供されている。

ABSTRACT

I build a melting temperature database that contains approximately 10,000 materials. Based on the database, I build a machine learning model that predicts melting temperature in seconds. The model features graph neural network and residual neural network architecture. The root-mean-square errors of melting temperature are 90 and 160K for training and testing, respectively. The model is deployed online and is publicly available.

研究の動機と目的

• 密度汎関数理論（DFT）に基づく融点計算の高い計算コストと低速さが、大規模な材料探索を制限するという問題に対処する。
• DFT法よりも遅いがより正確であるが、数秒で融点を予測できる高速かつ高精度な機械学習モデルの開発。
• 実験的データソースとDFT計算から得たデータを集約することで、包括的で公開可能な融点データベースの構築。
• 高速な機械学習モデルと高精度なDFTツールを統合した、反復的で自己改善型の材料探索フレームワークの構築。
• 研究者がオンラインAPIを用いて迅速に有望な材料をスクリーニングできるようにし、極限環境用途向けの高性能材料の発見を加速する。

提案手法

• ASM合金相図データベースとChemNetデータベースからのウェブクローリングを実施し、SLUSCHIツールを用いたDFT計算融点データを補完することで、融点データベースを構築した。
• モデル入力用に、各要素について14の元素的特徴量（例：原子半径、電負う度、価電子数、周期表における位置）を抽出した。
• 化合物に含まれる最大4元素間の相互作用を捉えるために、2回のメッセージパッシングを実行するグラフニューラルネットワーク（GNN）を採用し、二成分および三成分効果をモデル化した。
• GNNで処理された表現を、4層のリーマンニューラルネットワーク（ResNet）に供給し、融点のエンドツーエンド回帰を実行した。
• TensorFlowを用いて、8,635件のトレーニングデータおよび740件のテストデータを用い、1,000エポックの最適化でモデルを学習した。
• 学習済みモデルをMicrosoft Azure上に公開APIとしてデプロイし、将来的にはASU Research Computingへの移行を予定しており、リアルタイム予測と最近隣接探索を可能にした。

実験結果

リサーチクエスチョン

• RQ1 多様な実験的およびDFT計算融点データに基づいて学習された機械学習モデルは、計算コストを大幅に削減しつつ、DFTと同等の精度で融点を予測できるか？
• RQ2 グラフニューラルネットワークアーキテクチャは、多成分材料における融点に影響を与える要素間相互作用（例：二成分、三成分）をどれほど効果的に捉えられるか？
• RQ3 モデルの一般化性能は、未探索の組成領域においてどうであるか？また、DFTと比較してどの程度の頑健性を示すか？
• RQ4 高速な機械学習モデルと高精度なDFTツールを統合することで、自己整合的で反復的なフレームワークを構築し、自律的材料探索を可能にするか？
• RQ5 データベースサイズの増大に伴い、モデルの性能はどのように変化するか？また、自動DFTデータ生成は、モデルの精度向上にどのような役割を果たすか？

主な発見

• 機械学習モデルはトレーニングセットで90 K、テストセットで160 Kの平均二乗誤差（RMSE）を達成し、強力な予測性能を示した。
• モデルは1つの材料あたり約1秒で融点を予測でき、大規模な材料ライブラリの迅速なスクリーニングが可能になった。
• モデルはMicrosoft Azure上にホスティングされた公開APIとして公開されており、将来的にはASU Research Computingへの移行により、より広範なアクセスが可能になる。
• 融点データベースには現在9,375種の材料が収録されており、そのうち982種が2,000 K以上の高融点化合物を含む。
• モデルの予測精度は、データベース内での最近隣接の実際の融点を併記することで向上し、解釈可能性と信頼性が向上した。
• MLモデルとSLUSCHI DFTツールの統合により、有望な候補が自動的に高精度DFT検証の対象に選ばれるフィードバックループが実現され、材料探索が加速した。