[논문 리뷰] QH9: A Quantum Hamiltonian Prediction Benchmark for QM9 Molecules

Haiyang Yu, Meng Liu외 5명|arXiv (Cornell University)|2023. 06. 15.

Machine Learning in Materials ScienceMaterials Science인용 수 3

한 줄 요약

이 논문은 QM9 데이터셋에서 유도된 130,831개의 안정된 분자 기하학적 구조와 999개의 분자 동역학 궤적을 위한 정밀한 양자 해밀토니안 행렬의 대규모 벤치마크 데이터셋인 QH9를 소개한다. 이는 기계학습 모델, 특히 양자 텐서 네트워크를 사용하여 해밀토니안을 고정밀도로 예측할 수 있도록 하며, 표준 방법에 비해 DFT SCF 수렴 단계를 크게 줄여주며, 학습된 초기 추측값을 사용할 경우 최대 39.2% 적은 최적화 단계를 필요로 함을 보여준다.

ABSTRACT

Supervised machine learning approaches have been increasingly used in accelerating electronic structure prediction as surrogates of first-principle computational methods, such as density functional theory (DFT). While numerous quantum chemistry datasets focus on chemical properties and atomic forces, the ability to achieve accurate and efficient prediction of the Hamiltonian matrix is highly desired, as it is the most important and fundamental physical quantity that determines the quantum states of physical systems and chemical properties. In this work, we generate a new Quantum Hamiltonian dataset, named as QH9, to provide precise Hamiltonian matrices for 999 or 2998 molecular dynamics trajectories and 130,831 stable molecular geometries, based on the QM9 dataset. By designing benchmark tasks with various molecules, we show that current machine learning models have the capacity to predict Hamiltonian matrices for arbitrary molecules. Both the QH9 dataset and the baseline models are provided to the community through an open-source benchmark, which can be highly valuable for developing machine learning methods and accelerating molecular and materials design for scientific and technological applications. Our benchmark is publicly available at https://github.com/divelab/AIRS/tree/main/OpenDFT/QHBench.

연구 동기 및 목표

• 기계학습 모델이 분자 시스템에서 양자 해밀토니안 행렬을 예측하기 위해 훈련할 수 있는 대규모이고 다양한 데이터셋의 부족 문제를 해결하기 위해.
• 전자 구조와 화학적 성질을 결정하는 데 핵심적인 해밀토니안 행렬을 정확하고 효율적으로 예측할 수 있도록 하기 위해.
• 분자 기하학적 구조와 분자들이 포함된 분포 내 및 분포 외의 일반화 성능을 평가하기 위한 종합적인 벤치마크를 개발하기 위해.
• 학습된 해밀토니안 행렬을 초기 추측값으로 사용하여 밀도함수이론(DFT) 계산을 가속화하기 위해.
• QH9 데이터셋과 베이스라인 모델을 개방형으로 제공하여 고급 양자 기계학습 방법의 개발을 촉진하기 위해.

제안 방법

• 130,831개의 안정된 QM9 분자 기하학적 구조와 100개의 샘플링 기록이 있는 999개의 MD 궤적에 대해 DFT(B3LYP/def2SVP)를 사용하여 정밀한 해밀토니안 행렬을 생성한다.
• 네 가지의 구분된 벤치마크 과제를 설계함: QH9-stable-id(분포 내), QH9-stable-ood(분포 외), QH9-dynamic-geo(동일한 분자, 기하학적 변화), QH9-dynamic-mol(다른 분자들이 포함된 궤적).
• 회전 대칭성을 인코딩하기 위해 위그너 D-행렬을 사용하여, 로테이션에 대해 블록 단위로 행렬 등변성을 유지하는 양자 텐서 네트워크 모델(QHNet)을 훈련한다.
• 다양한 지표를 사용하여 모델 성능을 평가함: 최적 비율(수렴까지의 단계 수), 달성 비율(모델 추측 대비 DFT 추측의 단계 수), 오차 수준 비율(유사한 MAE에 도달하기까지의 단계 수).
• PySCF를 사용하고 DIIS SCF 알고리즘과 고정된 기저함수를 적용하여, 예측된 해밀토니안으로 초기화했을 때 DFT 수렴 속도 향상을 측정한다.
• GitHub를 통해 QH9 데이터셋과 베이스라인 모델을 개방형으로 제공하여 재현 가능성과 커뮤니티 기반 확장 지원을 보장한다.

실험 결과

연구 질문

• RQ1 기계학습 모델은 훈련 분포를 초월한 임의의 분자에 대해 해밀토니안 행렬을 일반화하여 예측할 수 있는가?
• RQ2 표준 초기 추측값(예: 1e, minao)에 비해 학습된 해밀토니안 행렬은 DFT SCF 수렴을 얼마나 효과적으로 가속화하는가?
• RQ3 다양한 분자 기하학적 구조와 동적 궤적 내의 다른 분자들에 대해 모델의 성능은 어떠한가?
• RQ4 등변 아키텍처는 해밀토니안 예측에서 물리적 일관성을 얼마나 잘 유지하는가?
• RQ5 예측된 해밀토니안의 품질은 하류 DFT 수렴 속도와 정확도에 어떤 관련이 있는가?

주요 결과

• QH9 벤치마크는 130,831개의 안정된 분자 기하학적 구조와 999개의 분자 동역학 궤적을 포함하며, 각 궤적은 100개의 샘플링 기하학적 구조를 포함하여 기존 데이터셋을 크게 확장한다.
• QH9-dynamic-mol에서 QHNet 모델은 최적 비율 0.392(±0.036)을 달성하여, 예측된 해밀토니안으로 초기화했을 경우 DFT 단계의 39.2%만으로도 수렴이 가능함을 보여준다.
• QH9-dynamic-geo 과제에서 달성 비율은 0.512(±0.138)로 떨어지며, 표준 초기화 대비 모델 초기화 시 DFT 수렴 단계가 약 절반으로 줄어듦을 나타낸다.
• QH9-dynamic-mol에서 오차 수준 비율은 0.648(±0.041)에 도달하여, 모델이 예측한 해밀토니안을 사용할 경우 유사한 정확도에 도달하기 위해 DFT 단계의 64.8%만으로도 충분함을 의미한다.
• QH9-stable-ood에서 모델은 최적 비율 0.392(±0.036)를 달성하여, 예상치 못한 분자 기하학적 구조에 대해서도 강력한 일반화 성능을 보임을 입증한다.
• QHNet으로 예측한 해밀토니안을 사용함으로써 수렴에 필요한 SCF 단계 수가 감소함을 확인하였으며, 이는 DFT 계산의 가속화에 있어 물리적 관련성과 실용성의 증거로 확인된다.