[논문 리뷰] Gold-standard solutions to the Schrödinger equation using deep learning: How much physics do we need?

Leon Gerard, Michael Scherbela외 2명|arXiv (Cornell University)|2022. 05. 19.

Machine Learning in Materials Science인용 수 6

한 줄 요약

이 논문은 슈뢰딩거 방정식을 해결하는 데 있어 금표준 정확도를 달성하는 변분 몬테카를로(VMC)를 위한 딥러닝 아키텍처를 제안한다. 이는 이전 방법 대비 에너지 오차를 40–70% 감소시키고 계산 비용을 6배 감소시킨다. 또한, CASSCF와 같은 과도한 물리적 사전 지식이 최적화 편향을 유발하여 성능을 떨어뜨릴 수 있음을 입증하며, 파동함수 근사에서 근사해를 통합하는 데 유리하다는 가정에 도전한다.

ABSTRACT

Finding accurate solutions to the Schrödinger equation is the key unsolved challenge of computational chemistry. Given its importance for the development of new chemical compounds, decades of research have been dedicated to this problem, but due to the large dimensionality even the best available methods do not yet reach the desired accuracy. Recently the combination of deep learning with Monte Carlo methods has emerged as a promising way to obtain highly accurate energies and moderate scaling of computational cost. In this paper we significantly contribute towards this goal by introducing a novel deep-learning architecture that achieves 40-70% lower energy error at 6x lower computational cost compared to previous approaches. Using our method we establish a new benchmark by calculating the most accurate variational ground state energies ever published for a number of different atoms and molecules. We systematically break down and measure our improvements, focusing in particular on the effect of increasing physical prior knowledge. We surprisingly find that increasing the prior knowledge given to the architecture can actually decrease accuracy.

연구 동기 및 목표

• 스chrödinger 방정식을 해결하기 위해 기존 방법보다 더 높은 정확도와 낮은 계산 비용을 달성하는 딥러닝 기반 변분 몬테카를로 방법을 개발하는 것.
• 원자와 분자에 대해 기록상 가장 정확한 변분 기초 상태 에너지를 발표한 바를 기준으로 삼는 것.
• 딥러닝 기반 양자화학에서 물리적 사전 지식의 양이 모델 성능에 어떻게 향상되거나 저해되는지 체계적으로 조사하는 것.
• 파동함수 근사에서 더 많은 물리적 정보를 포함한 사전 지식이 항상 더 나은 해를 이끌어낸다는 가정을 도전하는 것.

제안 방법

• 다체 파동함수를 모델링하기 위해 국소 좌표 입력 특징을 사용하는 딥 네트워크를 활용하여 회전 대칭성과 물리적 일관성을 보장한다.
• 정확한 대칭성과 측두 조건을 포함하는 물리 기반 손실 함수를 사용하여 기본 양자역학적 제약 조건을 강제한다.
• 확률적 경사 하강법을 사용한 변분 몬테카를로로 학습하며, 미분 가능한 샘플링을 통해 에너지 기대값을 최소화한다.
• 하드 제약 조건 없이도 수렴 속도를 높이는 새로운 사전 학습 전략을 도입하며, 허트리-폭크 또는 CASSCF에서 유도된 무게 초기화와 같은 부드러운 물리적 지침을 활용한다.
• 전자 상관관계와 노드 구조를 효과적으로 포착하기 위해 어텐션 메커니즘을 갖춘 잔차 네트워크 아키텍처를 사용한다.
• 분산을 줄이고 수렴을 향상시키기 위해 중요도 샘플링을 사용하는 몬테카를로 샘플링을 통해 에너지 평가를 수행한다.

실험 결과

연구 질문

• RQ1 허트리-폭크 또는 CASSCF와 같은 점점 더 많은 물리적 사전 지식을 통합할수록 딥러닝 기반 VMC 해의 정확도가 향상되는가?
• RQ2 딥러닝 모델이 기존 방법에 비해 상당히 낮은 계산 비용으로 소형 원자와 분자에 대해 금표준 정확도의 에너지 예측을 달성할 수 있는가?
• RQ3 CASSCF가 더 정확한 근사해임에도 불구하고, 일부 경우에서 CASSCF를 참조로 사용할 경우 허트리-폭크보다 성능이 열 劣하는 이유는 무엇인가?
• RQ4 정확한 물리적 제약 조건(예: 반대칭성 및 측두 조건)이 학습된 사전 지식보다 얼마나 성능 향상에 기여하는가?
• RQ5 사전 학습 전략의 선택이 최적화 역학과 최종 에너지 정확도에 어떻게 영향을 미치는가?

주요 결과

• 제안된 방법은 기존의 딥러닝 기반 VMC 방법(예: FermiNet 포함)에 비해 에너지 오차를 40–70% 감소시키고 계산 비용을 6배 낮춘다.
• 이 모델은 원자와 분자에 대해 변분 기초 상태 에너지의 새로운 기준을 설정하며, 4족 원소와 글리신까지 포함해 기존 금표준 방법(MRCI-F12(Q))보다 약 100 mHa 높은 정확도를 달성한다.
• 놀랍게도, CASSCF를 사전 학습 참조로 사용할 경우 허트리-폭크를 사용한 경우보다 정확도가 떨어지며, 이는 과도하게 정보화된 사전 지식이 최적화 편향을 유발할 수 있음을 시사한다.
• CASSCF로 사전 학습하거나 광범위한 지도 미세조정을 수행할 경우 최종 정확도가 떨어지므로, 이러한 사전 지식이 변분 최적화 과정에서 모델을 잘못 이끌 수 있음을 시사한다.
• 정확한 물리적 제약 조건(예: 반대칭성 및 측두 조건)을 통합할 경우 성능 향상이 이루어지지만, 근사해에서 유도된 학습된 사전 지식은 항상 도움이 되지 않으며 때로는 결과를 악화시킬 수 있다.
• 이 방법은 딥러닝 기반 VMC가 이제 계산 화학 분야에서 새로운 금표준이 될 수 있음을 입증하며, 기존의 고전적 방법과 이전의 딥러닝 방법보다 정확도와 효율성 면에서 뛰어나다.