[논문 리뷰] DeepDFT: Neural Message Passing Network for Accurate Charge Density Prediction

Peter Bjørn Jørgensen, Arghya Bhowmik|arXiv (Cornell University)|2020. 11. 04.

Industrial Vision Systems and Defect Detection인용 수 13

한 줄 요약

DeepDFT는 신경 메시지 전달 기반의 그래프 신경망을 도입하여 분자, 고체, 액체 전역에서 전자 전하 밀도를 높은 정확도와 선형 확장성으로 예측한다. 대규모 DFT 데이터로 훈련된 DeepDFT는 QM9에서 평균 절대 오차가 0.36% 미만임을 입증하며, 표준 DFT 기능의 불확도를 뛰어넘는 성능을 보인다.

ABSTRACT

We introduce DeepDFT, a deep learning model for predicting the electronic charge density around atoms, the fundamental variable in electronic structure simulations from which all ground state properties can be calculated. The model is formulated as neural message passing on a graph, consisting of interacting atom vertices and special query point vertices for which the charge density is predicted. The accuracy and scalability of the model are demonstrated for molecules, solids and liquids. The trained model achieves lower average prediction errors than the observed variations in charge density obtained from density functional theory simulations using different exchange correlation functionals.

연구 동기 및 목표

• 분자, 고체, 액체를 포함한 다양한 재료에서 전자 전하 밀도 ρ(r)를 예측하는 확장 가능하고 정확한 기계학습 모델을 개발하는 것.
• 기존 코른-샤무 DFT의 O(n³) 계산 비용을 극복하여 10⁵ 개 원자 이상의 시스템에 대해 선형 확장 예측을 가능하게 하는 것.
• 질의 점 위치에 영향을 받지 않는 이식 가능한 원자 표현을 학습함으로써 다양한 화학 환경으로의 일반화를 이루는 것.
• DFT에서 다양한 교환-상관 기능에 의해 유도되는 전하 밀도 변동보다도 낮은 예측 정확도를 달성하는 것.
• 비전문가를 위한 사용자 友好的이고 사전 훈련된 모델을 공개함으로써 고정밀 전자 구조 계산에의 접근을 민주화하는 것.

제안 방법

• 원자를 정점으로, 4 Å의 커파이어트를 기준으로 간선을 정의한 그래프 표현을 사용하여 주기적 경계 조건을 고려한 메시지 전달을 가능하게 한다.
• 각 질의 점에 특수한 프로브 정점(정점)을 도입하여 ρ(r)를 예측하고, 메시지를 수신하지만 전송하지는 않는다.
• 다단계 메시지 전달을 통해 원자 표현을 업데이트하며, 기저가 되는 원자들로부터의 정보를 미분 가능하고 종단 간(end-to-end) 방식으로 집계한다.
• SchNet에 영감을 받은 연속형 필터 그래프 네트워크를 사용하며, 상호원자 거리를 표현하기 위해 가우시안 원형 기저 함수를 활용한다.
• 두 단계 학습 과정을 통해 먼저 원자 환경을 인코딩하고, 이후 질의 점에서의 전하 밀도로 매핑함으로써, 다양한 질의에 대해 표현을 재사용할 수 있도록 한다.
• 작은 검증 세트에서 조기 정지 기법을 적용하여, 단일 GPU를 사용해 대규모 DFT 데이터셋에서 2주간 종합적으로 훈련한다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델이 표준 DFT 기능의 불확도를 초월하는 정확도로 전자 전하 밀도를 예측할 수 있는가?
• RQ2 메시지 전달 기반 그래프 네트워크가 분자, 고체, 액체 전역에서 선형 확장성과 일반화 성능을 달성할 수 있는가?
• RQ3 질의 점에 의존하지 않는 원자 환경 표현을 학습하는 것이 질의에 따라 달라지는 모델에 비해 이식성과 효율성을 향상시키는가?
• RQ4 훈련 데이터에 잘 표현되지 않은 희귀하거나 특수한 구조 모티프에 대해서도 모델이 일반화 가능한가?
• RQ5 직접적으로 총 에너지나 밴드 갭과 같은 衍생된 성질을 예측하는 것보다, 먼저 전하 밀도를 예측하는 것이 더 자료 효율적인가?

주요 결과

• QM9 테스트 세트에서 DeepDFT는 평균 절대 오차 0.36%를 기록하였으며, 이는 8종의 교환-상관 기능에 대해 평균적으로 0.6%의 DFT 불확도를 초월하는 성능이다.
• 모델의 평균 오차는 원자 밀도의 초합성에 기인한 18% 오차보다도 현저히 낮아 강력한 일반화 능력을 보여준다.
• LIB 음극재 데이터셋에서 평균 오차는 0.10%로 나타나 복잡한 재료에 대해 매우 높은 정확도를 확보하였다.
• 에틸렌 카보네이트 데이터셋에서는 평균 오차가 0.53%였으며, 화학적 공간 커버리지가 향상되어 외곽치(outlier)가 관찰되지 않았다.
• QM9의 외곽치는 훈련 데이터에 잘 포함되지 않은 특수한 구조 단위와 관련이 있으며, 데이터 분포 민감도를 드러낸다.
• 모델는 시스템 크기에 따라 선형 확장성을 보이며, 최대 10⁵ 개 원자를 포함하는 시스템의 시뮬레이션에 적합하여 재료 설계 분야의 새로운 응용 가능성을 열어준다.