[논문 리뷰] SE(3)-equivariant prediction of molecular wavefunctions and electronic densities

Oliver T. Unke, Mihail Bogojeski외 4명|arXiv (Cornell University)|2021. 06. 04.

Machine Learning in Materials Science참고 문헌 29인용 수 25

한 줄 요약

PhiSNet은 SE(3)-등가성 웨이브펑션과 전자 밀도를 학습하여 관측치를 엔드투엔드로 도출하고, ab initio 방법 대비 큰 정확도 향상과 상당한 속도 증가를 제공하며, 상위 이론으로의 성공적인 전이 학습을 보인다.

ABSTRACT

Machine learning has enabled the prediction of quantum chemical properties with high accuracy and efficiency, allowing to bypass computationally costly ab initio calculations. Instead of training on a fixed set of properties, more recent approaches attempt to learn the electronic wavefunction (or density) as a central quantity of atomistic systems, from which all other observables can be derived. This is complicated by the fact that wavefunctions transform non-trivially under molecular rotations, which makes them a challenging prediction target. To solve this issue, we introduce general SE(3)-equivariant operations and building blocks for constructing deep learning architectures for geometric point cloud data and apply them to reconstruct wavefunctions of atomistic systems with unprecedented accuracy. Our model achieves speedups of over three orders of magnitude compared to ab initio methods and reduces prediction errors by up to two orders of magnitude compared to the previous state-of-the-art. This accuracy makes it possible to derive properties such as energies and forces directly from the wavefunction in an end-to-end manner. We demonstrate the potential of our approach in a transfer learning application, where a model trained on low accuracy reference wavefunctions implicitly learns to correct for electronic many-body interactions from observables computed at a higher level of theory. Such machine-learned wavefunction surrogates pave the way towards novel semi-empirical methods, offering resolution at an electronic level while drastically decreasing computational cost. Additionally, the predicted wavefunctions can serve as initial guess in conventional ab initio methods, decreasing the number of iterations required to arrive at a converged solution, thus leading to significant speedups without any loss of accuracy or robustness.

연구 동기 및 목표

• 분자 웨이브펑션을 예측하는 것을 목표로 삼아 관측치를 필요에 따라 도출한다는 점을 동기화한다.
• 기하학적 포인트 클라우드에 대한 SE(3)-등가성 신경 빌딩 블록을 개발하여 해밀토니언을 예측한다.
• PhiSNet을 구성하여 정확한 회전 등가성을 갖는 해밀토니안 행렬을 출력한다.
• 이전 최첨단 방법들보다 정확성과 효율성 이점을 입증한다.
• 저수준 이론에서 고수준 양자화학 데이터로의 전이 학습 경로를 보여준다.

제안 방법

• 포인트 클라우드에서의 딥러닝을 위한 SE(3)-등가 연산 도입.
• 등가적 원자 표현으로부터 해밀토니안 블록을 출력하는 PhiSNet 구축.
• 해밀토니안 블록에 등가성을 강제하기 위해 텐서 곱 전개와 Clebsch-Gordan 계수를 사용.
• 블록 단위로 조립하여 대각 및 비대각 해밀토니안 블록을 모두 예측.
• DFT(PBE/def2-SVP)로부터 KS/중첩 행렬에 대해 학습하고 SchNOrb과 비교.
• HF 유도 모델을 CCSD(T) 관측치로 보정하기 위한 전이 학습을 시연한다.

실험 결과

연구 질문

• RQ1 SE(3)-등가성 신경 구조가 분자 웨이브펑션과 전자 밀도를 정확하게 예측할 수 있는가?
• RQ2 해밀토니안을 직접 예측하는 것이 에너지와 힘을 엔드투엔드로 고정밀도로 도출하는 데 도움이 되는가?
• RQ3 이전 최첨단(SchNOrb) 및 ab initio 방법과 비교했을 때 어떤 정확도와 속도 향상이 나타나는가?
• RQ4 저수준 이론에 대해 사전학습된 모델을 미세조정하여 고수준 전자상호상관 효과를 포착할 수 있는가?
• RQ5 예상된 파동함수가 고전적 양자화학 계산을 가속하는 효과적인 초기 추정값으로 작용하는가?

주요 결과

• PhiSNet은 SchNOrb에 비해 여러 분자에서 K, S, ε, ψ의 예측 오차를 최대 두 자릿수 차이로 감소시켰다.
• PhiSNet은 보이는 입자에서 ab initio DFT 계산에 비해 3자리 수 이상의 속도향상을 제공한다.
• 모델은 정확한 SE(3) 등가성을 유지하며 비등가성 대응보다 매개변수가 적고 수렴이 더 빠르다.
• 전이 학습을 통해 HF 수준의 모델을 CCSD(T) 수준 관측치로 보정하는 해밀토니안 보정 학습이 가능하다.
• 예상된 파동함수는 에너지와 힘의 엔드투엔드 도출을 가능하게 하며, 전통적 양자화학 방법을 가속하는 우수한 초기 추정값으로 사용할 수 있다.