[논문 리뷰] The Controlled Thermodynamic Integral for Bayesian Model Comparison

Chris J. Oates, Theodore Papamarkou외 1명|arXiv (Cornell University)|2014. 04. 20.

Markov Chains and Monte Carlo Methods참고 문헌 41인용 수 12

한 줄 요약

이 논문은 제어 변수를 사용한 열역학적 통합에서 베이지안 모델 비교를 위한 분산 감소 기법인 제어된 열역학적 적분(CTI)을 소개한다. 로그우도와 로그우도의 기울기를 활용함으로써 CTI는 증거 추정에서 극적인 분산 감소를 달성한다—선형 회귀 모델과 벤치마크 데이터셋에서 입증됨—동시에 베이지안 선형 회귀에서는 정확하게 작동한다.

ABSTRACT

Bayesian model comparison relies upon the model evidence, yet for many models of interest the model evidence is unavailable in closed form and must be approximated. Many of the estimators for evidence that have been proposed in the Monte Carlo literature suffer from high variability. This paper considers the reduction of variance that can be achieved by exploiting control variates in this setting. Our methodology is based on thermodynamic integration and applies whenever the gradient of both the log-likelihood and the log-prior with respect to the parameters can be efficiently evaluated. Results obtained on regression models and popular benchmark datasets demonstrate a significant and sometimes dramatic reduction in estimator variance and provide insight into the wider applicability of control variates to Bayesian model comparison.

연구 동기 및 목표

• 베이지안 모델 비교에서 중요한 걸림돌인 모델 증거의 몬테카를로 추정기에서의 높은 분산 문제를 해결한다.
• 기본 MCMC에 비해 계산 비용을 초과하지 않으면서 열역학적 통합에서 추정기 분산을 감소시키는 방법을 개발한다.
• 미분 기하학적 MCMC 기법에서 제공되는 기울기 정보를 활용해 효과적인 제어 변수를 구성한다.
• 실제로 분산 감소를 극대화하기 위한 최적의 제어 변수 구성에 대한 이론적 지침을 제공한다.
• 실세계 모델과 벤치마크 데이터셋에서 이 방법의 효과성을 입증한다. 특히 베이지안 선형 회귀와 같이 정확한 경우도 포함된다.

제안 방법

• 물리학에서의 제로분산(ZV) 제어 변수 기법을 열역학적 통합을 통해 베이지안 모델 비교에 응용한다.
• 모델 파라미터에 대한 로그우도와 로그우도의 기울기를 사용하여 제어 변수를 구성하며, 이는 많은 현대 MCMC 기법에서 제공된다.
• 제어 변수의 기대값이 알려져 있으므로 분산 감소를 위해 추정기에서 제어 변수를 빼는 방식으로 제어된 열역학적 적분을 수정한 형태로 제안한다.
• 후행 분포 하에서 제어 변수의 평균이 0이 되는 조건을 만족시켜 비편향성을 확보하며, 후행 분포의 지수 꼬리 성질을 활용한다.
• 제어 변수의 기초로 스코어 함수(로그후행 분포의 도함수)를 사용하여 기울기가 제공되는 경우 효율적인 계산이 가능하다.
• 지수족 모델(예: 선형 회귀)과 비지수족 모델(예: 굿윈 오시레이터)에 모두 적용하여 광범위한 적용 가능성을 입증한다.

실험 결과

연구 질문

• RQ1 제어 변수는 열역학적 통합을 통한 모델 증거 추정기의 분산을 상당히 감소시킬 수 있는가?
• RQ2 제어된 열역학적 적분이 언제 진정한 모델 증거와 정확히 일치하는가?
• RQ3 표준 벤치마크 데이터셋에서 CTI 방법은 최첨단 추정기와 비교해 어떻게 성능을 내는가?
• RQ4 어떤 모델 유형에서 CTI 방법이 가장 효과적이며, 어디서 실패할 수 있는가?
• RQ5 이 맥락에서 최적의 제어 변수 구성에 대한 이론적 원리는 무엇인가?

주요 결과

• 제어된 열역학적 적분은 표준 열역학적 통합 및 기타 몬테카를로 추정기와 비교해 극적으로 분산 감소를 달성한다.
• 베이지안 선형 회귀 모델에서는 이 방법이 정확하다—추정기 분산이 0이다—이는 로그후행 분포의 선형 구조와 닫힌 형태의 기울기 제공 덕분이다.
• 선형 회귀 모델과 벤치마크 데이터셋에 대한 경험적 결과는 일관된 분산 감소를 보이며, 특히 고차원 또는 복잡한 모델에서 개선이 두드러진다.
• 로그우도와 로그우도의 기울기를 계산할 수 있는 한 모든 모델에 적용 가능하며, 이는 대부분의 미분 기하학적 MCMC 샘플러를 사용하는 모델에 해당한다.
• 후행 분포가 지수족이면서 충분통계량이 파라미터에 대해 선형인 모델, 예를 들어 가우시안 선형 모델에서는 이 방법이 정확하다.
• 필요한 기울기가 확보되지 않거나 제어 변수가 후행 분포 하에서 평균이 0이 되는 조건을 충족시킬 수 없는 경우 실패한다. 특히 꼬리가 두꺼운 후행 분포나 비연속적인 우도를 가진 모델에서 그러한 문제가 발생할 수 있다.