[논문 리뷰] Ab-initio quantum chemistry with neural-network wavefunctions

Jan Hermann, James S. Spencer외 6명|arXiv (Cornell University)|2022. 08. 26.

Machine Learning in Materials Science참고 문헌 129인용 수 11

한 줄 요약

이 논문은 전자 슈뢰딩거 방정식을 직접 제1원리에서 해결하기 위해 변분 양자 몽테카를로(QMC) 내에서 신경망 기반 파동함수를 사용하는 새로운 아비시노(가-시작) 양자화학 접근법을 제시한다. 깊은 학습을 통해 강하게 상관관계가 있는 전자 상태를 표현함으로써, 외부 학습 데이터에 의존하지 않고도 작은 분자에서 화학 정밀도를 달성한다. 이는 복잡한 시스템에 대한 정확하고 효율적인 전자 구조 계산으로 향하는 유망한 길을 제시한다.

ABSTRACT

Machine learning and specifically deep-learning methods have outperformed human capabilities in many pattern recognition and data processing problems, in game playing, and now also play an increasingly important role in scientific discovery. A key application of machine learning in the molecular sciences is to learn potential energy surfaces or force fields from ab-initio solutions of the electronic Schrödinger equation using datasets obtained with density functional theory, coupled cluster, or other quantum chemistry methods. Here we review a recent and complementary approach: using machine learning to aid the direct solution of quantum chemistry problems from first principles. Specifically, we focus on quantum Monte Carlo (QMC) methods that use neural network ansatz functions in order to solve the electronic Schrödinger equation, both in first and second quantization, computing ground and excited states, and generalizing over multiple nuclear configurations. Compared to existing quantum chemistry methods, these new deep QMC methods have the potential to generate highly accurate solutions of the Schrödinger equation at relatively modest computational cost.

연구 동기 및 목표

• 신경망을 변분 파동함수 안자제로 사용하여, 외부 학습 데이터 없이 전자 구조 계산을 위한 데이터 없는 아비시노 방법을 개발한다.
• 슈뢰딩거 방정식의 해법에 직접 기계학습을 통합하여, 전통적 양자화학 방법의 한계를 극복한다.
• 강한 상관관계 효과를 포함한 복잡한 전자 구조를 가진 분자에서 기초 상태 및 자극 상태 계산에 높은 정밀도를 달성한다.
• 신경망과 변분 QMC를 조합하여 최대 100~200개의 전자를 가진 시스템에 대해 확장 가능한 전자 구조 계산을 가능하게 한다.
• 다양한 분자 구조에 일반화 가능하고, 격자 시스템 및 자극 상태로의 확장도 지원하는 프레임워크를 구축한다.

제안 방법

• 두 번째 양자화 또는 첫 번째 양자화 형식에서 다체 전자 파동함수를 표현하기 위해 신경망을 변분 파동함수 안자제로 사용한다.
• 에너지 기대값을 최소화함으로써 신경망 파rameter를 최적화하기 위해 변분 양자 몽테카를로(QMC)를 적용한다.
• 몬테카를로 적분을 통해 에너지 및 기타 관측량을 다체 파동함수의 확률적 샘플링을 통해 계산한다.
• 파울리 넷(PauliNet) 및 페르미넷(FermiNet)과 같은 아키텍처를 사용하여 신경망 설계 자체에서 반대칭성과 스핀 상관관계를 강제한다.
• 계산의 프리팩터를 줄이고 확장성을 향상시키기 위해 허위 포텐셜(pseudopotentials) 및 기저함수 최적화 기법을 통합한다.
• 수렴 속도를 향상시키고 다양한 분자 시스템 간의 일반화 능력을 향상시키기 위해 전이 학습과 사전 학습을 활용한다.

실험 결과

연구 질문

• RQ1 신경망 기반 파동함수는 외부 학습 데이터 없이도 아비시노 전자 구조 계산에서 화학 정밀도를 달성할 수 있는가?
• RQ2 강한 상관관계를 가진 전자 시스템을 표현할 때, 신경망 아키텍처의 표현력은 전통적인 구성 상호작용(configuration interaction) 또는 쌍화된 클러스터(CCD) 방법과 비교해 어떻게 되는가?
• RQ3 정확한 다체 파동함수를 근사화할 때 신경망 안자제의 기본적 한계는 무엇이며, 이는 시스템 크기와 어떻게 스케일링되는가?
• RQ4 신경망을 사용한 변분 QMC는 근접한 디세너지 상태나 다구성상태를 가진 분자와 같은 다양한 화학 시스템에서 높은 정밀도를 유지할 수 있는가?
• RQ5 최적화 및 아키텍처 혁신을 통해 계산 프리팩터를 얼마나 줄일 수 있으며, 이는 더 큰 시스템으로의 적용 가능성을 어떻게 확장할 수 있는가?

주요 결과

• 변분 QMC 내에서 신경망 파동함수는 베릴륨, 탄소, 벤젠과 같은 작은 분자에서 화학 정밀도(1 kcal/mol 이내)를 달성하며, 기존 방법과 맞추거나 초월한다.
• 페르미넷과 파울리넷 아키텍처는 최소 기저 집합에서 근접한 전자기본상태(가장 완전한 CI) 에너지를 재현하며, 경험적 피팅 없이도 높은 정밀도를 보인다.
• 이 방법은 기초 상태뿐 아니라 자극 상태 계산도 성공적으로 수행하였으며, 쌍화된 클러스터 및 정확한 대각화 방법과의 비교를 통해 결과가 검증되었다.
• 이 방법은 다양한 분자 구조에 일반화 가능하며, 고체 리튬 수소화물(LiH)의 108전자 시뮬레이션 세포를 포함한 격자 시스템으로도 확장되었다.
• 높은 정밀도에도 불구하고 계산 프리팩터가 여전히 크기 때문에 현재는 약 42개 전자 이하의 시스템에만 적용 가능하지만, 최근의 발전으로 더 큰 시스템으로의 확장이 가능해졌다.
• 이 프레임워크는 이동 가능한 파동함수 및 에너지 차이의 스케줄링 최적화와 같은 확장 기능을 신속하게 개발할 수 있게 하였지만, 에너지 차이의 노이즈 문제는 여전히 도전 과제로 남아 있다.