[논문 리뷰] Unifying machine learning and quantum chemistry -- a deep neural network for molecular wavefunctions

Kristof T. Schütt, Michael Gastegger외 3명|arXiv (Cornell University)|2019. 06. 24.

Machine Learning in Materials ScienceMaterials Science참고 문헌 6인용 수 19

한 줄 요약

이 논문은 국소 원자 궤도 기저에서 분자의 파동함수를 직접 예측하는 딥 뉴럴 네트워크인 SchNOrb를 소개한다. 이는 힘장 이론 수준의 효율성으로 정확하고 미분 가능한 전자 구조 예측을 가능하게 한다. 원자 환경에서 해밀토니안과 오버랩 행렬을 학습함으로써 화학 정확도(~0.04 eV)를 달성하며, 역설계 및 파동함수 기반 SCF 가속화를 가능하게 한다.

ABSTRACT

Machine learning advances chemistry and materials science by enabling large-scale exploration of chemical space based on quantum chemical calculations. While these models supply fast and accurate predictions of atomistic chemical properties, they do not explicitly capture the electronic degrees of freedom of a molecule, which limits their applicability for reactive chemistry and chemical analysis. Here we present a deep learning framework for the prediction of the quantum mechanical wavefunction in a local basis of atomic orbitals from which all other ground-state properties can be derived. This approach retains full access to the electronic structure via the wavefunction at force field-like efficiency and captures quantum mechanics in an analytically differentiable representation. On several examples, we demonstrate that this opens promising avenues to perform inverse design of molecular structures for target electronic property optimisation and a clear path towards increased synergy of machine learning and quantum chemistry.

연구 동기 및 목표

• 분자의 양자역학적 파동함수를 직접 예측하는 기계학습 모델을 개발하여 전체 전자 구조 정보를 포괄한다.
• 기계학습과 양자화학을 융합하여 전자 구조의 미분 가능하고 해석적으로 연속적인 표현을 제공한다.
• 기울기 기반 최적화를 통해 HOMO-LUMO 갭과 같은 전자적 성질을 최적화함으로써 역분자 설계를 가능하게 한다.
• 기계학습으로 예측한 파동함수를 재시작 자료로 사용하여 양자화학 계산에서 자가일관성장(SFC) 절차를 가속화한다.
• 기계학습과 양자화학 간의 유니버설 인터페이스를 제공하여 단일 모델로 모든 기초 상태 성질을 지원한다.

제안 방법

• 모델은 메시지 전달 신경망을 사용하여 원자 환경과 원자 간 쌍을 대칭 적응 표현으로 인코딩한다.
• 각 행렬 블록에 대해 별도의 신경망을 사용하여 국소 원자 궤도 기저에서 전자 해밀토니안 행렬과 오버랩 행렬을 예측한다.
• 예측된 해밀토니안은 $\mathbf{H} = \frac{1}{2}(\tilde{\mathbf{H}} + \tilde{\mathbf{H}}^T)$를 통해 대칭화되어 에르미트성(hermiticity)을 유지한다.
• 총 에너지는 최종 mlp를 통해 원자별 기여의 합으로 계산된다: $E = \sum_i \text{mlp}_\text{E}(\mathbf{x}_i)$.
• 데이터 증강을 위해 와이너 D-행렬을 사용하여 분자 구성을 임의로 회전시켜 학습 중 회전 불변성을 향상시킨다.
• 다중 작업 손실은 에너지, 힘, 해밀토니안, 오버랩 행렬 예측을 결합한다: $\ell = \|\mathbf{H}-\tilde{\mathbf{H}}\|_F^2 + \|\mathbf{S}-\tilde{\mathbf{S}}\|_F^2 + \rho\|E-\tilde{E}\|^2 + \sum_i \|\mathbf{F}_i + \partial\tilde{E}/\partial\mathbf{r}_i\|^2$.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 국소 원자 궤도 기저에서 전체 전자 해밀토니안 행렬을 화학 정확도로 정확히 예측할 수 있는가?
• RQ2 이러한 모델은 HOMO-LUMO 갭과 같은 전자적 성질의 분석적 미분 가능성과 기울기 기반 최적화를 가능하게 하는가?
• RQ3 기계학습으로 예측한 파동함수는 양자화학 계산에서 SCF 수렴을 위한 효과적인 초기 추측치로 사용될 수 있는가?
• RQ4 모델은 다양한 분자 구조에 대해 일반화되며, 역분자 설계를 지원하는가?
• RQ5 예측된 파동함수를 통해 재학습 없이도 모든 기초 상태 성질에 접근할 수 있는가?

주요 결과

• SchNOrb는 에너지 예측에서 약 0.04 eV의 화학 정확도를 달성하여 기준 양자화학 계산과 일치한다.
• 모델은 해밀토니안과 오버랩 행렬을 높은 정밀도로 예측하여 대각화를 통해 전체 전자 구조에 접근할 수 있다.
• 기계학습 기반 분자 동역학 시뮬레이션에서 말론디알데히드의 수소 이동 동안 전자 구조의 일관된 변화가 관찰되었다.
• 예측된 파동함수를 재시작 자료로 사용할 경우 정확도 손실 없이 SCF 반복 수를 크게 감소시킬 수 있었다.
• HOMO-LUMO 갭의 기울기 기반 최적화가 가능하여 분자 재료의 역설계로 이르는 길을 보여주었다.
• 모델의 미분 가능 표현 덕분에 단일 통합 예측에서 모든 기초 상태 성질을 유도할 수 있었다.