[논문 리뷰] MeltNet: Predicting alloy melting temperature by machine learning

Pin-Wen Guan, Venkatasubramanian Viswanathan|arXiv (Cornell University)|2020. 10. 27.

Machine Learning in Materials Science인용 수 6

한 줄 요약

MeltNet는 원소 성질과 조성에서 유도된 일곱 가지 입력 특징을 활용하고 베이지안 최적화를 통해 초모수를 조정하여, 이원합금의 융해온도를 예측하는 딥러닝 모델로, 평균 절대 오차(MAE)가 120 K에 이르기까지 낮아, 높은 정확도와 강건성을 확보한다. 앙상블 학습과 불확실성 정량화를 통해 복잡한 다성분 시스템에서의 체계적인 열역학적 거동을 신뢰할 수 있고 저비용으로 예측할 수 있는 최초의 모델이다.

ABSTRACT

Thermodynamics is fundamental for understanding and synthesizing multi-component materials, while efficient and accurate prediction of it still remain urgent and challenging. As a demonstration of the "Divide and conquer" strategy decomposing a phase diagram into different learnable features, quantitative prediction of melting temperature of binary alloys is made by constructing the machine learning (ML) model "MeltNet" in the present work. The influences of model hyperparameters on the prediction accuracy is systematically studied, and the optimal hyperparameters are obtained by Bayesian optimization. A comprehensive error analysis is made on various aspects including training duration, chemistry and input features. It is found that except a few discrepancies mainly caused by less satisfactory treatment of metalloid/semimetal elements and large melting point difference with poor liquid mixing ability between constituent elements, MeltNet achieves overall success in prediction, especially capturing subtle composition-dependent features in the unseen chemical systems for the first time. The reliability, robustness and accuracy of MeltNet is further largely boosted by introducing the ensemble method with uncertainty quantification. Based on the state-of-the-art underlying techniques, MeltNet achieves a prediction mean average error (MAE) as low as about 120 K, at a minimal computational cost. We believe the present work has a general value for significant acceleration of predicting thermodynamics of complicated multi-component systems.

연구 동기 및 목표

• 다성분 합금에서 융해온도를 효율적이고 정확하게 예측하는 데 도전한다. 특히 고엔트로피 및 복잡한 시스템에 대해.
• ab initio 계산 및 CALPHAD와 같은传통적 방법의 한계를 극복한다. 이는 계산 비용이 높거나 데이터에 의존하는 경향이 있기 때문이다.
• 융합 및 정복 전략을 구현하기 위해 상도를 학습 가능한 특징으로 분해하고, 먼저 융해온도 예측을 시작한다.
• 기존의 방법으로는 도달하기 어려웠던, 새로운 화학적 시스템에서의 조성에 따라 변화하는 미세한 경향을 포착하는 기계학습 모델을 개발한다.
• 앙상블 학습과 불확실성 정량화를 통해 예측의 신뢰성을 향상시킨다.

제안 방법

• 원소 성질과 조성에서 유도된 일곱 가지 입력 특징을 사용하는 딥 네트워크(DNN) 모델인 MeltNet을 구축한다.
• 학습률, 배치 크기, 은닉층의 뉴런 수 등 초모수를 베이지안 최적화를 통해 최적화하여 예측 정확도를 극대화한다.
• 데이터 분할에 의한 편향을 최소화하고 일반화 능력을 확보하기 위해 오차 교차검증(5배)을 적용한다.
• 다양한 난수 시드로 여러 모델을 훈련하고 평균 예측값을 사용하며 불확실성 정량화를 적용함으로써 앙상블 예측을 수행한다.
• 목표로 하는 값은 NIMS 계산 상도 데이터베이스에서 확보한 액상선 온도이다.
• 예측 정확도 향상 여부를 입증하기 위해 기준선으로 베가드의 법칙을 비교한다.

실험 결과

연구 질문

• RQ1 기계학습 모델은 다양한 화학 조성, 비스토이키오메트릭 시스템까지 포함하여 이원합금의 융해온도를 정확하게 예측할 수 있는가?
• RQ2 학습률, 배치 크기, 네트워크 너비와 같은 모델 초모수는 예측 성능에 어떤 영향을 미치는가?
• RQ3 MeltNet는 이전에 본 적 없는 합금 시스템에서 융해온도의 미세한 조성 의존성 경향을 어느 정도 포착할 수 있는가?
• RQ4 불확실성 정량화를 포함한 앙상블 학습은 융해온도 예측의 강건성과 신뢰성에 어떤 영향을 미치는가?
• RQ5 주요 예측 오차의 원인은 무엇이며, 금속류/반금속성 특성과 큰 융해온도 차이를 보이는 원소들에 어떻게 연관되어 있는가?

주요 결과

• MeltNet는 융해온도 예측에서 평균 절대 오차(MAE)가 약 120 K로 나타나, 기준선인 베가드의 법칙(218.0 K MAE)보다 뚜렷이 뛰어난 성능을 보였다.
• 앙상블 예측 방법을 통해 테스트 MAE가 단일 모델의 133.1 K에서 122.5 K로 감소하여 정확도와 안정성이 향상됨을 입증하였다.
• 앙상블 접근법에서의 불확실성 정량화는 평균 74.7 K의 불확실성을 제공하였으며, 대부분의 경우 진짜 값이 예측 범위에 포함되었지만, Cr-Sn 및 Si-Sn 시스템에서는 일부 실패가 발생하였다.
• 큰 예측 오차는 주로 금속류/반금속 원소의 처리 부족과 융해온도 차이가 크며 액상 혼합 능력이 열악한 시스템에서 기인한다.
• 기존의 방법으로는 도달하기 어려웠던 융해온도의 미세한 조성 의존성 특징을 모델이 성공적으로 포착하였다.
• 베이지안 최적화를 통해 학습률, 배치 크기, 층당 뉴런 수와 같은 핵심 초모수를 식별하였으며, 이들의 조정이 모델 성능 향상에 크게 기여하였다.