[논문 리뷰] Completing density functional theory by machine-learning hidden messages from molecules

Ryo Nagai, Ryosuke Akashi외 1명|arXiv (Cornell University)|2019. 03. 01.

Machine Learning in Materials ScienceMaterials Science참고 문헌 35인용 수 17

한 줄 요약

이 논문은 분자 전자 구조 데이터베이스에서 직접 기계학습을 활용해 콘-쇼움 밀도함수이론(KS-DFT)의 교환-상관 함수를 구성하는 방법을 제안한다. 전자 밀도와 그 기술자들로부터 정확한 에너지 및 전위를 매핑하도록 훈련된 전방향 신경망을 사용한다. 놀랍게도, 몇 개의 분자에서만 훈련된 기능은 수백 개의 시스템에 걸쳐도 일반화된 정확도를 달성하며, 네트워크 아키텍처를 통해 국소적이지 않은 항을 쉽게 통합함으로써 기존 이론적 제약을 극복한다.

ABSTRACT

Kohn-Sham density functional theory is the base of modern computational approaches to electronic structures. Their accuracy vitally relies on the exchange-correlation energy functional, which encapsulates electron-electron interaction beyond the classical one. The functional provides a way to obtain the density and energy without solving the many-body equation and can, in principle, be determined to reproduce the exact ones universally. However, the past approaches are dependent on the theoretical development, which limits the possibility of the functional to human's intuition. Here, we demonstrate a systematic way to machine-learn a functional from a database, without complicated assumptions. The density and energy are related with a flexible feed-forward neural network, which is trained to reproduce accurate dataset, and the KS-DFT is solved by taking the functional derivatives with the back-propagation technique. Surprisingly, a trial functional, trained for just a few molecules, has been shown to be applicable to hundreds of molecular systems with comparable accuracy to the standard functionals. Also, by adding the nodes connected to the hidden layers, a non-local term is straightforwardly included to improve accuracy, which has been hitherto impractically difficult. Utilizing the strategy of rapidly advancing machine learning techniques, this novel approach is expected to enrich the DFT framework by constructing a functional just from a database for materials conventionally difficult to calculate accurately.

연구 동기 및 목표

• 이론적 근사치에 의존하지 않고 체계적이고 데이터 기반의 Kohn-Sham DFT 교환-상관 함수를 구성하는 데 목적이 있다.
• 인간의 직관과 히우리스틱 유도에 의존하는 전통적 기능의 한계를 극복하는 데 목적이 있다.
• 탄성 신경망 아키텍처를 통해 국소적이지 않은 효과를 기능에 통합할 수 있도록 하는 데 목적이 있다.
• 최소한의 훈련 데이터로 총 에너지 및 전자 밀도 예측에서 높은 정확도를 달성하는 데 목적이 있다.
• 훈련 세트를 초월해 다양한 분자 시스템에 걸쳐 훈련된 기능의 일반화 능력을 입증하는 데 목적이 있다.

제안 방법

• 전방향 신경망은 국소 및 국소적이지 않은 밀도 기술자(예: n(r), ∇n(r), τ(r))를 교환-상관 에너지 밀도 εxc(g[n](r))로 매핑한다.
• 역전파를 통해 기능 도함수 δE_xc/δn(r)를 계산하여 Kohn-Sham 방정식을 풀기 위한 xc 전위 V_xc(r)를 구한다.
• 훈련을 이끄는 데는 원자화 에너지(G2 기준) 오차와 전자 밀도(CCSD 기준) 오차를 균형 잡는 비용 함수를 사용한다.
• 온도 및 가중치 변동을 포함한 몬테카를로 유사 알고리즘을 통한 확률적 최적화로 저오차 해에 수렴함을 보장한다.
• DFT 및 CCSD 기준 데이터를 사용하여 분자 데이터셋(H2O, NH3, NO)에서 신경망을 훈련하며, 초기 밀도 추정치는 원자적 초합성에서 유도한다.
• 숨겨진 층에 노드를 추가함으로써 국소적이지 않은 항을 간편하게 통합할 수 있어, 체계적인 기능 향상이 가능하다.

실험 결과

연구 질문

• RQ1 작은 수의 분자에서 훈련된 기계학습 모델이 수백 개의 다양한 분자 시스템에 대해 높은 정확도로 일반화될 수 있는가?
• RQ2 신경망 기반 기능이 이론적 유도에 의존하지 않고도 표준 DFT 기능과 비교해 유사하거나 더 높은 정확도를 달성할 수 있는가?
• RQ3 분석적 구성이 아닌 아키텍처 설계를 통해 국소적이지 않은 효과를 xc 기능에 통합하는 것이 실현 가능한가?
• RQ4 교환-상관 전위의 기능 형태를 명시적으로 알지 못해도 에너지 및 밀도 오차에 기반해 기능을 직접 훈련시킬 수 있는가?
• RQ5 ML 기반 기능의 성능이 총 에너지 및 전자 밀도 예측에서 기존 기능과 비교해 어떻게 되는가?

주요 결과

• 세 개의 분자(H2O, NH3, NO)에서만 훈련된 신경망 기반 기능이 수백 개의 분자 시스템에 걸쳐 일반화된 정확도를 달성했으며, 에너지 및 밀도 예측에서 표준 기능과 동등하거나 이를 초월했다.
• 테스트 세트에서 원자화 에너지의 평균 절대 오차는 0.004 하트리이고, 표준화된 L2 노름(Δn_CCSD)에서의 밀도 오차는 0.0028였다.
• 숨겨진 층에 추가 노드를 통해 국소적이지 않은 항을 통합함으로써 정확도가 크게 향상되어 고급 기능으로 향상시키는 실용적인 길을 제시했다.
• 훈련 세트에 포함되지 않은 시스템에 대해서도 정확한 전자 밀도와 총 에너지를 높은 정밀도로 재현했다.
• 훈련된 신경망 파rameters는 공개적으로 제공되어 PySCF와 같은 기존 DFT 코드에 통합할 수 있도록 했다.
• 이론적 가정이나 섭동 전개를 피하는 데 성공했으며, 오직 데이터 기반 최적화에 의존했다.