[논문 리뷰] A theoretical interpretation of variance-based convergence criteria in perturbation-based theories

Xiao-Hui Wang, Zhaoxi Sun|arXiv (Cornell University)|2018. 02. 22.

Advanced Thermodynamics and Statistical Mechanics참고 문헌 68인용 수 27

한 줄 요약

이 논문은 변동성 기반 수렴 기준이 펌정 기반 자유 에너지 계산에서 어떻게 작용하는지에 대한 이론적 기반을 제공하며, FEP와 BAR와 같은 추정기들이 자유 에너지 추정의 분산에 비선형적으로 의존함을 보여준다. 이는 표본 크기 제한과 분포 가정으로 인해 변동성 기반 수렴 지표가 본질적으로 편향되어 있음을 증명하며, 이는 불확실성의 체계적 과소평가로 이어져 실제 응용에서 표준 오차 추정이 의미를 잃게 된다.

ABSTRACT

In QM/MM indirect free energy simulation, QM/MM corrections can be obtained from integration of partial derivatives of alchemical Hamiltonians or from perturbation-based estimators including free energy perturbation (FEP) and acceptance ratio methods. With FEP or exponential averaging, researchers tend to only sample MM states and calculate single point energy to get the free energy estimates. In this case the sample size hysteresis arises and the convergence is determined by bias elimination rather than variance minimization. Various criteria are proposed to evaluate the convergence issue and numerical studies are reported. It has been found that criteria including variance of distribution, effective sample size, information entropies and so on can be used and they are variance-of-distribution-dependent. However, no theoretical interpretation is presented. In this paper we present theoretical interpretations to dig the underlying statistical nature behind the problem. The convergence criteria are proven to be related with variance of distribution in Gaussian approximated Exponential averaging. Further, we prove that these estimators are nonlinearly dependent on the variance of the free energy estimate. As these estimators are often orders of magnitude overestimated, the variance of the FEP estimate is orders of magnitude underestimated. Hence, computing this statistical uncertainty is meaningless. In numerical calculation from timeseries data the effective sample size is bounded by 1 and N and thus the variance of the free energy estimate is proven to be bounded by 0 and 1 (kBT)2 for EXP and 0 and 2 (kBT)2 for BAR, which indicates an inevitable underestimation. Specifically, the upper bounds for these estimators are sample-size dependent. The effective sample size is proven to be a function of the overlap scalar, from which the range of the overlap scalar can also be derived.

연구 동기 및 목표

• 펌정 기반 자유 에너지 방법에서 사용되는 변동성 기반 수렴 기준의 통계적 성격을 이론적으로 해석하는 것.
• FEP와 BAR 계산에서 사용되는 변동성 추정기의 체계적 편향의 근본 원인을 규명하는 것.
• 표본 크기의 제한과 분포 가정으로 인해 자유 에너지 추정의 표준 오차 추정이 본질적으로 신뢰할 수 없음을 보여주는 것.
• 일반적으로 사용되는 수렴 기준—예를 들어 분산, 유효 표본 크기, 엔트로피—가 실제에서는 왜 오해의 소지가 있는지 명확히 하는 것.
• 지수 평균과 수용 비율 평균 하에서 자유 에너지 추정의 분산에 대한 이론적 한계를 유도하는 것.

제안 방법

• 가우스 분포 근사 하에서 지수 평균의 자유 에너지 추정의 분산과 수렴 기준 간의 이론적 관계를 유도한다.
• FEP와 BAR 추정기가 자유 에너지 추정의 분산에 비선형적으로 의존함을 증명하며, 이는 정밀도의 과대평가로 이어진다.
• 시간계수열 데이터를 분석하여 유효 표본 크기가 1과 N 사이로 제한되며, 이는 EXP의 경우 자유 에너지 추정의 분산을 0과 (kBT)² 사이로, BAR의 경우 0과 2(kBT)² 사이로 제한함을 보여준다.
• 유효 표본 크기를 결정하는 핵심 매개변수로 오버랩 스칼라를 도입하고, 그 이론적 범위를 유도한다.
• 수학적 유도와 渐近 분석을 통해 자유 에너지 추정기의 통계적 불확실성에 대한 상한을 확립한다.
• 수치적 예시를 통해 이론적 예측을 검증하였으며, 최종 버전에서 추가된 새로운 그림(Figure 7)을 포함한다.

실험 결과

연구 질문

• RQ1 왜 FEP와 BAR에서 변동성 기반 수렴 기준은 종종 진정한 통계적 불확실성을 반영하지 못하는가?
• RQ2 실제로 사용되는 수렴 기준과 자유 에너지 추정의 분산 간의 이론적 관계는 무엇인가?
• RQ3 시간계수열 데이터에서 유효 표본 크기가 자유 에너지 추정의 분산을 어떻게 제약하는가?
• RQ4 왜 펌정 기반 방법에서 자유 에너지 추정의 표준 오차는 체계적으로 과소평가되는가?
• RQ5 오버랩 스칼라는 수렴 기준의 신뢰성에 어떤 역할을 하는가?

주요 결과

• 지수 평균 하에서 자유 에너지 추정의 분산은 0과 (kBT)² 사이로 제한되며, 이는 진정한 불확실성이 이 한계를 초과할 수 없음을 의미한다.
• BAR 방법의 경우 자유 에너지 추정의 분산은 0과 2(kBT)² 사이로 제한되며, 이는 통계적 불확실성에 대한 근본적인 상한을 나타낸다.
• 시간계수열에서 유효 표본 크기는 1과 N 사이로 제한되며, 이는 변동성 기반 수렴 기준의 정밀도를 본질적으로 제한한다.
• 오버랩 스칼라는 유효 표본 크기의 범위를 결정하며, 그 이론적 범위는 분석을 통해 유도되었다.
• 변동성 기반 수렴 기준은 진정한 분산에 비선형적으로 의존하므로, 정밀도를 수십만 배 과대평가하고 실제 불확실성을 체계적으로 과소평가한다.
• 결과적으로, 이러한 추정기에서 표준 오차를 계산하는 것은 체계적 편향과 제한된 분산으로 인해 통계적으로 의미가 없다.