[논문 리뷰] Improved uncertainty quantification for Gaussian process regression based interatomic potentials

Albert P. Bartók, James. R. Kermode|arXiv (Cornell University)|2022. 06. 17.

Machine Learning in Materials Science인용 수 4

한 줄 요약

이 논문은 가우시안 프로세스 회귀(GPR)-기반의 원자 간 잠재에너지에 대한 초모수 최적화를 위해 최소한의 교차검증(LOO-CV) 가능도를 표준 가능도 대신 사용하여 예측 불확실성 정량화(UQ)의 신뢰성을 크게 향상시킨다. LOO-CV 접근법은 예측 오차의 과대평가를 감소시키며, 아르곤 트라이머 및 다이머 시스템에서 검증되었으며, 표준 GPR나 히우리스틱 조정보다 더 정확하고 견고한 오차 추정치를 제공한다.

ABSTRACT

The error estimation capability of machine learning interatomic potentials (MLIPs) based on probabilistic learning methods such as Gaussian process regression (GPR) is currently under-exploited, because of the tendancy of the predicted errors to overestimate the true error. We present approaches based on maximising either the marginal likelihood or an alternative likelihood constructed using leave-one-out cross validation to provide improved error estimates for interatomic potentials based on GPR. We benchmarked these approaches on models representing the Ar trimer, showing significant improvements in the robustness of the predicted error estimates.

연구 동기 및 목표

• 기계학습 원자 간 잠재에너지(MLIP)에서 예측 불확실성 정량화(UQ)의 활용 부족 문제를 해결하며, 특히 가우시안 프로세스 회귀(GPR)에 의한 예측 오차 과대평가 문제를 해결한다.
• 일반적으로 과신된 또는 정확하지 않은 오차 추정치를 초래하는 표준 가능도 최대화의 한계를 극복한다.
• GAP 히우리스틱 기반의 수동 초모수 선택에 대한 더 견고한 대안을 제시하기 위해 LOO-CV 가능도 최적화를 활용한다.
• 다스케일 재료 모델링에서 관심 있는 양(QoIs)의 파생된 양에 대한 예측 오차 바의 신뢰도를 향상시켜, 다양한 척도 간의 불확실성 전파를 개선한다.
• LOO-CV 기반 최적화가 표준 GPR나 히우리스틱 접근법보다 더 정확하고 현실적인 불확실성 추정치를 제공함을 소규모 밀도함수이론 기반 기준 시스템에서 입증한다.

제안 방법

• 모델의 정확성 가정 없이 예측 성능을 추정하는 LOO-CV 가능도를 최대화하여 GPR 기반 원자 간 잠재에너지의 초모수를 최적화한다.
• 이중 및 삼중체 아르곤 시스템에서 LOO-CV 최적화를 표준 가능도 최대화 및 히우리스틱 초모수 선택(GAP 히우리스틱)과 비교한다.
• 단거리 반발과 장거리 분산을 모델링하기 위해 명시적 기저 함수를 사용하며, 커널 초모수(예: 길이 척도 ℓ, 신호 분산 δ)는 자동 미분를 활용한 BFGS 알고리즘으로 최적화한다.
• 근사제곱오차(RMSE)를 사용해 모델 성능을 평가하고, 교차검증에서의 진짜 오차와 예측 오차 분산을 비교한다.
• 불확실성 기여도를 매개변수적 및 비매개변수적 항으로 분해하여 초모수 선택이 오차 구조에 미치는 영향을 분석한다.
• 향후 대규모 데이터셋 및 희소 GP 설정으로의 확장 대비, 스케일이 잘 되는 Pareto-조정된 중요도 샘플링(PSIS)을 적용한다.

실험 결과

연구 질문

• RQ1 LOO-CV 가능도 최적화는 GPR 기반 원자 간 잠재에너지에서 표준 가능도 최대화보다 더 신뢰할 수 있는 불확실성 추정치를 제공할 수 있는가?
• RQ2 히우리스틱 초모수 조정 대비 LOO-CV 접근법은 오차 추정 정확도와 견고성 측면에서 어떻게 비교되는가?
• RQ3 다양한 초모수 선택(예: δ, ℓ)은 이중 및 삼중체 항의 불확실성 분해에 어떤 영향을 미치는가?
• RQ4 LOO-CV 최적화는 학습 데이터에서 멀리 떨어진 영역에서 GPR가 예측 오차를 과대평가하는 경향을 줄일 수 있는가?
• RQ5 LOO-CV 접근법은 SOAP 또는 ACE와 같은 복잡한 다체 기저 함수를 갖는 대규모 데이터셋 및 실용적 재료 시뮬레이션에 스케일링 가능한가?

주요 결과

• LOO-CV 접근법은 표준 가능도 최대화 및 히우리스틱 초모수 선택 대비 예측 오차 추정의 신뢰도를 크게 향상시켰다.
• 표준 가능도 최대화는 가장 낮은 RMSE(1.7 meV/atom)를 달성했지만, 일부 영역에서 진짜 오차를 과대평가하여 불확실성의 校정(calibration)이 부족함을 시사했다.
• LOO-CV 방법은 더 낮은 RMSE(2.4 meV/atom)를 기록했지만, 예측 오차와 진짜 오차 간 상관관계가 훨씬 높아 더 정확한 오차 추정치를 제공했다.
• LOO-CV는 이중체 및 삼중체 항 간의 균형 잡힌 가중치를 제공했으며, δ₂ = 1429 eV 및 δ₃ = 0.0006 eV로 이중체 상호작용에 더 큰 중시를 두었다.
• LOO-CV 모델의 길이 척도 파rameter는 삼중체 기저 함수 성분에 균형 있게 분포했으며(ℓ₁ = 239 Å, ℓ₂ = 329 Ų, ℓ₃ = 344 Å), 더 나은 일반화 능력을 나타냈다.
• 명시적 기저 함수 접근법은 장거리에서의 불확실성 기여도에 기여했으며, 이 기여도는 LOO-CV 케이스에서 더 크게 나타나, 분포 외 행동을 더 잘 모델링했음을 시사했다.