[論文レビュー] MeltNet: Predicting alloy melting temperature by machine learning

Pin-Wen Guan, Venkatasubramanian Viswanathan|arXiv (Cornell University)|Oct 27, 2020

Machine Learning in Materials Science被引用数 6

ひとこと要約

MeltNetは、7つの入力特徴量とベイズ最適化によるハイパーパrameterチューニングを活用して、二元合金の融解温度を予測する深層学習モデルであり、平均絶対誤差（MAE）が120 Kまで低下する。アンサンブル学習と不確実性評価を組み合わせることで、高精度かつ高耐性の予測を実現し、初めて多成分系における複雑な熱力学的挙動を信頼性高く低コストで予測可能にする。

ABSTRACT

Thermodynamics is fundamental for understanding and synthesizing multi-component materials, while efficient and accurate prediction of it still remain urgent and challenging. As a demonstration of the "Divide and conquer" strategy decomposing a phase diagram into different learnable features, quantitative prediction of melting temperature of binary alloys is made by constructing the machine learning (ML) model "MeltNet" in the present work. The influences of model hyperparameters on the prediction accuracy is systematically studied, and the optimal hyperparameters are obtained by Bayesian optimization. A comprehensive error analysis is made on various aspects including training duration, chemistry and input features. It is found that except a few discrepancies mainly caused by less satisfactory treatment of metalloid/semimetal elements and large melting point difference with poor liquid mixing ability between constituent elements, MeltNet achieves overall success in prediction, especially capturing subtle composition-dependent features in the unseen chemical systems for the first time. The reliability, robustness and accuracy of MeltNet is further largely boosted by introducing the ensemble method with uncertainty quantification. Based on the state-of-the-art underlying techniques, MeltNet achieves a prediction mean average error (MAE) as low as about 120 K, at a minimal computational cost. We believe the present work has a general value for significant acceleration of predicting thermodynamics of complicated multi-component systems.

研究の動機と目的

• 多成分合金における融解温度を、効率的かつ高精度に予測する課題に対処すること。特に、ハイエントロピー系や複雑な系に対して有効であることを目的とする。
• 第一原理計算やCALPHADのような従来手法の限界を克服すること。これらの手法は計算コストが高く、データ依存性が強い。
• 「分割統治」戦略を実証するために、相図を学習可能な特徴量に分解し、最初に融点予測を対象とする。
• 未学習の化学的組成系においても、微細な組成依存性の傾向を捉える機械学習モデルを開発すること。
• アンサンブル学習と不確実性評価を活用して、予測の信頼性を向上させること。

提案手法

• 元素の性質と組成から導出された7つの入力特徴量を用いた深層ニューラルネットワーク（DNN）モデル「MeltNet」を構築する。
• 学習率、バッチサイズ、隠れ層あたりのノード数といったハイパーパrameterをベイズ最適化で最適化し、予測精度を最大化する。
• データ分割によるバイアスを低減し、一般化性能を確実にするために5分割交差検証を採用する。
• 複数の異なるランダムシードでモデルを学習し、アンサンブル予測を実施。予測結果の平均値を用い、不確実性評価も併用する。
• 目的変数として液体線温度（liquidus temperature）を採用し、NIMS計算相図データベースのデータを基盤とする。
• ベースラインとしてヴェガルドの法則を用いて性能を比較し、予測精度の向上を示す。

実験結果

リサーチクエスチョン

• RQ1 機械学習モデルは、非化学计量性を含む多様な化学組成を持つ二元合金の融解温度を、高精度に予測できるか？
• RQ2 学習率、バッチサイズ、ネットワーク幅といったモデルのハイパーパrameterが、予測性能にどのように影響を与えるか？
• RQ3 MeltNetは、未学習の合金系においても、融点の微細な組成依存性の傾向をどの程度正確に捉えることができるか？
• RQ4 アンサンブル学習と不確実性評価を組み合わせることで、融点予測の耐性と信頼性はどの程度向上するか？
• RQ5 主な予測誤差の原因は何か。金属loid/半金属性や融点差が大きい系、液体状態での混合性が低い系との関連は？

主な発見

• MeltNetは、融点予測において平均絶対誤差（MAE）が約120 Kにまで低下し、ベースラインのヴェガルドの法則（MAE 218.0 K）を著しく上回る性能を示した。
• アンサンブル予測手法により、テスト時のMAEは122.5 Kに低下した。一方、単一モデルでは133.1 Kであったため、精度と安定性の向上が明確に示された。
• アンサンブル手法による不確実性評価では、平均不確実性が74.7 Kに達し、大多数のケースで真値をカバーする結果となったが、Cr-SnおよびSi-Sn系では一部の失敗が観察された。
• 大きな予測誤差は、主に金属loid/半金属元素の取り扱いが不十分であること、および融点差が大きく、液体状態での混合性が低い系に起因している。
• 本モデルは、従来の手法では達成できなかった微細な組成依存性の融点特徴を、うまく捉えている。
• ベイズ最適化により、学習率、バッチサイズ、層あたりのノード数といった重要なハイパーパrameterが、モデル性能の向上に顕著に寄与することが同定された。