[논문 리뷰] Predicting thermoelectric properties from crystal graphs and material descriptors - first application for functional materials

Léo Laugier, Daniil Bash외 6명|arXiv (Cornell University)|2018. 11. 15.

Machine Learning in Materials Science인용 수 3

한 줄 요약

이 연구는 결정 구조 및 원자 기술자료를 기반으로 한 기계학습 프레임워크를 제안하여 열전 성능 인자 예측을 수행한다. 이 프레임워크는 결정 그래프 신경망(CGCNN), 완전 연결 신경망(FCNN), XGBoost를 활용하며, DFT 기반 물질 기술자료를 통합한다. FCNN는 DFT 기반 기술자료를 사용함으로써 CGCNN 및 XGBoost를 능가하며, 정확한 기능성 물질 성질 예측을 위해 물리 기반 기술자료가 핵심임을 입증한다.

ABSTRACT

We introduce the use of Crystal Graph Convolutional Neural Networks (CGCNN), Fully Connected Neural Networks (FCNN) and XGBoost to predict thermoelectric properties. The dataset for the CGCNN is independent of Density Functional Theory (DFT) and only relies on the crystal and atomic information, while that for the FCNN is based on a rich attribute list mined from Materialsproject.org. The results show that the optimized FCNN is three layer deep and is able to predict the scattering-time independent thermoelectric powerfactor much better than the CGCNN (or XGBoost), suggesting that bonding and density of states descriptors informed from materials science knowledge obtained partially from DFT are vital to predict functional properties.

연구 동기 및 목표

• 계산 비용이 큰 DFT 및 볼츠만 운동 방정식 계산을 대체하기 위해 기계학습을 활용해 기능성 열전 물질의 발견을 가속화한다.
• 결정 그래프 기반 모델(CGCNN)이 DFT 입력 없이도 열전 성능 인자를 정확하게 예측할 수 있는지 조사한다.
• Materials Project 및 Matminer를 통해 유도된 풍부한 물질 기술자료를 사용하여 FCNN 및 XGBoost의 성능을 평가한다.
• DFT 기반 기술자료가 기본적인 결정 및 원자 기능에 비해 예측 정확도를 얼마나 향상시키는지 확인한다.
• 이론적 데이터셋에 기반한 기계학습 모델을 훈련시켜 향후 열전 물질의 데이터 기반 설계를 위한 기반을 마련한다.

제안 방법

• DFT 입력 없이 결정 구조 및 원자 정보만을 사용하여 결정 그래프 컨volution 신경망(CGCNN)을 훈련시었다.
• Materials Project를 통해 Matminer를 활용해 유도한 28개의 물질 기술자료—예: 결합, 원자, 전자적 성질—를 사용하여 완전 연결 신경망(FCNN)을 구축하였다.
• 딥 러닝 접근법과의 비교를 위해 XGBoost를 기반으로 한 기울기 부스팅 모델을 적용하였다.
• 모델 훈련 및 평가를 위해 DFT + 볼츠만 운동 방정식(BTE)으로 계산된 성능 인자를 기준값 레이블로 사용하였다.
• FCNN 및 XGBoost의 초모수를 베이지안 초모수 탐색을 통해 최적화하였으며, 손실 함수로 MSE, 최적화 알고리즘으로 RMSProp을 사용하였다.
• 2,819,682개의 데이터 포인트로 구성된 데이터셋(다양한 도핑, 온도, 결정 방향을 가진 7,230개 화합물에서 유도됨)을 사용하여 평균 절대 오차(MAE)를 통해 모델 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 DFT 입력 없이 결정 및 원자 구조 정보만을 사용해 훈련된 CGCNN 모델이 열전 성능 인자를 정확하게 예측할 수 있는가?
• RQ2 풍부한 물질 기술자료를 사용한 FCNN의 성능이 DFT+BTE 성능 인자를 예측할 때 CGCNN 및 XGBoost에 비해 어떻게 뛰어나게 되는가?
• RQ3 결합, 밀도 상태 등 DFT 기반 기술자료가 기본적인 구조적 기능에 비해 예측 정확도 향상에 얼마나 기여하는가?
• RQ4 물리 기반 기술자료의 포함 여부가 기능성 물질 성질 예측 능력에 뚜렷한 영향을 미치는가?
• RQ5 이론적 데이터셋에 기반한 기계학습 모델이 열전 물질 선별에서 높은 비용이 드는 DFT 및 BTE 계산을 신뢰할 수 있는 대체 수단으로 사용될 수 있는가?

주요 결과

• 세 개의 완전 연결 층과 최적화된 초모수를 가진 FCNN 모델이 열전 성능 인자 예측에서 가장 높은 정확도를 달성하였다.
• FCNN는 DFT 기반 기술자료인 결합 및 밀도 상태 등의 기능이 정확한 예측에 필수적임을 시사하며, CGCNN 및 XGBoost를 모두 능가하였다.
• DFT 입력 없이 결정 그래프 정보만을 사용하는 CGCNN는 FCNN 및 XGBoost보다 성능이 열 劣하였으며, 이는 구조적 기능만으로는 부족함을 시사한다.
• 성능이 가장 뛰어난 FCNN는 세 층에 각각 ReLU, tanh, sigmoid 활성화 함수를 사용하였으며, 뉴런 수는 각각 50, 41, 41이었고, Robust 스케일러와 RMSProp 최적화 알고리즘을 적용하였다.
• 이전 연구에서 단지 세베크 계수만 예측한 결과에 비해 평균 절대 오차(MAE)가 낮아졌으며, 다양한 온도 범위에서 예측 정확도가 30%에서 46%까지 향상되었다.
• 불안정한 다형체 및 비현실적인 화합물 등의 데이터셋 한계에도 불구하고 FCNN는 뛰어난 일반화 능력을 보였으며, 이는 기계학습 기반 재료 발견에서 기술자료의 풍부함이 가치가 있음을 입증한다.