[논문 리뷰] An Investigation of Machine Learning Methods Applied to Structure Prediction in Condensed Matter

W. Brouwer, James D. Kubicki외 2명|arXiv (Cornell University)|2014. 05. 14.

Machine Learning in Materials Science참고 문헌 18인용 수 8

한 줄 요약

이 논문은 47Ti 고체상 NMR 스펙트럼으로부터 조밀한 물질 내 원자 구조를 예측하기 위해 다중 서포트 벡터 회귀(MSVR) 및 인공 신경망(ANN)과 같은 기계학습 방법을 연구한다. TiO2의 아보-아이디오 계산된 NMR 데이터를 사용하여, 주성분 분석(PCA)이 스펙트럼 차원을 90% 이상 감소시키고, 두 기계학습 모델이 구조적 매개변수 예측에서 높은 정확도를 보임을 입증한다. MSVR과 ANN은 유사한 성능을 보이며, 산소의 x,y 좌표 및 z 좌표 예측의 경우 RMSE < 0.08, 단위 세포 매개변수 예측의 경우 RMSE < 1.5 이하이다.

ABSTRACT

Materials characterization remains a significant, time-consuming undertaking. Generally speaking, spectroscopic techniques are used in conjunction with empirical and ab-initio calculations in order to elucidate structure. These experimental and computational methods typically require significant human input and interpretation, particularly with regards to novel materials. Recently, the application of data mining and machine learning to problems in material science have shown great promise in reducing this overhead. In the work presented here, several aspects of machine learning are explored with regards to characterizing a model material, titania, using solid-state Nuclear Magnetic Resonance (NMR). Specifically, a large dataset is generated, corresponding to NMR $^{47}$Ti spectra, using ab-initio calculations for generated TiO$_2$ structures. Principal Components Analysis (PCA) reveals that input spectra may be compressed by more than 90%, before being used for subsequent machine learning. Two key methods are used to learn the complex mapping between structural details and input NMR spectra, demonstrating excellent accuracy when presented with test sample spectra. This work compares Support Vector Regression (SVR) and Artificial Neural Networks (ANNs), as one step towards the construction of an expert system for solid state materials characterization.

연구 동기 및 목표

• 신규 고체상 물질의 구조 특성 분석에 소요되는 시간과 인적 자원을 줄이기 위한 기계학습의 활용.
• TiO2와 같은 모델 산화물 체계에서 47Ti NMR 스펙트럼을 원자 구조 매개변수로 매핑하는 데이터 기반 접근법 개발.
• MSVR 및 ANNs가 NMR 스펙트럼과 구조적 왜곡 간의 복잡한 역매핑을 학습하는 데 있어 성능를 평가하고 비교하기.
• 스펙트럼 데이터를 활용해 복잡한 산화물에서 신속하고 자동으로 구조를 규명할 수 있는 전문가 시스템의 기초 마련.

제안 방법

• TiO2의 다양한 원자 위치를 가진 구조에 대해 아보-아이디오 밀도함수이론(DFT) 계산을 사용해 47Ti NMR 스펙트럼의 대규모 데이터셋을 생성하였다.
• 주성분 분석(PCA)을 적용하여 NMR 스펙트럼 데이터를 압축하여 차원을 90% 이상 감소시키면서도 구조적 정보를 유지하였다.
• 다중 서포트 벡터 회귀(MSVR) 및 인공 신경망(ANNs)을 압축된 스펙트럼 특징에 대해 훈련하여 산소 분수 좌표 및 단위 세포 매개변수와 같은 구조적 매개변수를 예측하였다.
• 모델 성능 평가를 위해 10중 교차검증을 사용하였으며, 각 폴드에서 450개의 훈련 샘플과 50개의 테스트 샘플을 사용하였다.
• 초기화 매개변수(예: MSVR의 경우 ε = 0.2)를 최적화하고, 루트 평균 제곱 오차(RMSE)를 사용하여 일반화 오차를 평가하였다.
• 화학적 시프트 및 쿼드루플렛 결합 상수와 같은 스펙트럼 매개변수를 입력으로 활용하여 구조 감도를 향상시켰다.

실험 결과

연구 질문

• RQ1 기계학습 모델은 47Ti NMR 스펙트럼으로부터 조밀한 물질의 원자 구조 매개변수를 정확하게 예측할 수 있는가?
• RQ2 PCA는 예측 정확도를 손상시키지 않고 스펙트럼 차원을 감소시키는 데 얼마나 효과적인가?
• RQ3 MSVR 및 ANNs는 NMR 스펙트럼에서 원자 좌표 및 단위 세포 매개변수로의 역매핑을 학습하는 데 있어 어떤 정도의 성능를 보이는가?
• RQ4 기계학습은 고체상 NMR 해석에서 수동 시뮬레이션 및 피팅의 필요성을 얼마나 줄일 수 있는가?
• RQ5 쿼드루플렛 결합 상수와 같은 스펙트럼 매개변수의 구조적 세부 정보를 포착하는 데 있어 한계는 무엇이며, 이를 어떻게 보완할 수 있는가?

주요 결과

• PCA는 NMR 스펙트럼 데이터의 차원을 90% 이상 감소시켜 기계학습에 효율적으로 활용할 수 있도록 하였으며, 정보 손실이 거의 없었다.
• MSVR는 Δ(O_x ≡ O_y)의 경우 RMSE 0.0636, Δ(O_z)의 경우 0.0455, Δ(a ≡ b)의 경우 0.2430, Δ(c)의 경우 1.0559를 기록하였으며, 각 폴드 간 성능에 약간의 변동이 있었다.
• ANNs는 유사한 성능를 보였으며, Δ(O_x ≡ O_y)의 경우 RMSE 0.0615, Δ(O_z)의 경우 0.0399, Δ(a ≡ b)의 경우 0.2396, Δ(c)의 경우 1.1874를 기록하여 테스트 데이터에 대해 강력한 일반화 능력을 보였다.
• MSVR 및 ANNs는 둘 다 구조적 왜곡 예측에서 높은 정확도를 보였으며, 대부분의 경우 예측 매개변수의 상대 오차는 10% 이내에 머물렀다.
• 연구는 기계학습이 산화물 내 원자 척도의 구조적 특징과 NMR 스펙트럼 간의 복잡한 비선형 매핑을 효과적으로 학습할 수 있음을 확인하였다.
• 결과는 스펙트럼 데이터를 활용해 고체상 물질의 구조를 신속하게 추론할 수 있는 전문가 시스템 구축의 가능성에 대한 지원을 제공한다.