[논문 리뷰] Deep Neural Network Computes Electron Densities and Energies of a Large Set of Organic Molecules Faster than Density Functional Theory (DFT)

Anton V. Sinitskiy, Vijay S. Pande|arXiv (Cornell University)|2018. 09. 08.

Machine Learning in Materials Science참고 문헌 61인용 수 37

한 줄 요약

이 논문은 기존의 밀도-functional 이론(DFT)보다 최대 30배 빠르게 유기 분자의 전자 밀도와 에너지를 예측하는 딥 뉴럴 네트워크(DNN)를 제안한다. 이 DNN는 저비용의 HF/cc-VDZ 초깃밀도만을 입력으로 사용한다. DNN는 기본 집합의 불완전성과 전자 상관 효과를 보정하는 데 학습하며, 에너지 예측 정확도가 약 1 kcal/mol에 이를 정도로 높으면서도, 고립 전자 쌍 최소값과 고리형 구조와 같은 복잡한 전자 구조적 특징을 재현한다.

ABSTRACT

Density functional theory (DFT) is one of the main methods in Quantum Chemistry that offers an attractive trade off between the cost and accuracy of quantum chemical computations. The electron density plays a key role in DFT. In this work, we explore whether machine learning - more specifically, deep neural networks (DNNs) - can be trained to predict electron densities faster than DFT. First, we choose a practically efficient combination of a DFT functional and a basis set (PBE0/pcS-3) and use it to generate a database of DFT solutions for more than 133,000 organic molecules from a previously published database QM9. Next, we train a DNN to predict electron densities and energies of such molecules. The only input to the DNN is an approximate electron density computed with a cheap quantum chemical method in a small basis set (HF/cc-VDZ). We demonstrate that the DNN successfully learns differences in the electron densities arising both from electron correlation and small basis set artifacts in the HF computations. All qualitative features in density differences, including local minima on lone pairs, local maxima on nuclei, toroidal shapes around C-H and C-C bonds, complex shapes around aromatic and cyclopropane rings and CN group, etc. are captured by the DNN. Accuracy of energy predictions by the DNN is ~ 1 kcal/mol, on par with other models reported in the literature, while those models do not predict the electron density. Computations with the DNN, including HF computations, take much less time that DFT computations (by a factor of ~20-30 for most QM9 molecules in the current version, and it is clear how it could be further improved).

연구 동기 및 목표

• 기존 DFT의 속도를 뛰어넘어 대규모 유기 분자 집합의 전자 밀도 및 에너지 계산을 가속화하는 것.
• 저비용의 HF 계산에서 발생하는 기본 집합의 불완전성과 전자 상관 오차를 보정할 수 있는 기계학습 모델을 개발하는 것.
• 계산 비용이 높은 DFT 단계를 빠른 DNN 추론으로 대체하여 고속도 분석이 가능한 양자화학적 분석을 가능하게 하는 것.
• 예측된 밀도에서 고립 전자 쌍 최소값과 결합 패턴과 같은 정성적 전자 구조적 특징을 유지하는 것.
• 에너지 예측뿐만 아니라 전체 전자 밀도를 예측할 수 있는 동시에 최신 모델과 비교해도 정확도가 뛰어난 성능을 달성하는 것.

제안 방법

• 133,000개의 유기 분자로 구성된 QM9 데이터셋에서, PBE0/pcS-3 DFT를 기준값으로 삼아 DNN를 훈련한다.
• DNN는 작은 cc-VDZ 기본 집합을 사용한 하트리-폭크(HF) 계산에서 유도된 근사 전자 밀도를 입력으로 받는다.
• 네트워크는 상관 효과와 기본 집합 효과를 포착함으로써 저정확도의 HF 밀도를 고정밀도 DFT 유사 밀도로 매핑하는 데 학습한다.
• 모델은 전자 밀도와 총 에너지를 동시에 예측하기 위해 엔드 투 엔드로 훈련된다.
• 아키텍처는 국소 최소값과 최대값을 포함한 전자 밀도의 공간적 및 위상적 특징을 유지하도록 설계되어 있다.
• DNN 추론은 대부분의 QM9 분자에서 DFT보다 약 20–30배 더 빠르며, 향후 더 큰 속도 향상 가능성이 있다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 DFT보다 더 빠르게 유기 분자의 전자 밀도와 총 에너지를 정확하게 예측할 수 있는가?
• RQ2 저비용의 HF 밀도만을 입력으로 사용하여 DNN가 기본 집합의 불완전성과 전자 상관 오차를 효과적으로 보정할 수 있는가?
• RQ3 DNN는 예측된 밀도에서 고립 전자 쌍 최소값과 결합 패턴과 같은 복잡한 전자 구조적 특징을 유지하는가?
• RQ4 에너지 예측의 정확도는 DFT 기준으로 어느 정도이며, 다른 기계학습 모델과 비교해 볼 때 어떻게 되는가?
• RQ5 DNN는 대규모 분자 데이터셋의 고속도 양자화학적 분석을 어느 정도 가속화할 수 있는가?

주요 결과

• DNN는 에너지 예측 정확도가 약 1 kcal/mol에 이르며, 다른 최신 모델과 유사한 성능을 보인다.
• 모델은 고립 전자 쌍의 국소 최소값, 원자핵 주변의 국소 최대값, C–H 및 C–C 결합 주위의 토이드형 밀도 분포와 같은 복잡한 전자 구조적 특징을 성공적으로 포착한다.
• 예측된 전자 밀도는 고리형 구조, 사이클로프로판, CN 기에서의 복잡한 형태를 매우 정밀하게 재현한다.
• 대부분의 QM9 분자에서 DNN 추론 속도는 DFT보다 약 20–30배 더 빠르며, 향후 더 큰 속도 향상 가능성이 있다.
• 모델은 공액계 및 비틀림이 있는 체계를 포함한 다양한 유기 분자 구조에 대해 잘 일반화된다.
• 단일 저비용 입력에서 동시에 기본 집합 절단 오차와 전자 상관 효과를 보정하는 DNN의 능력이 입증되었다.