[논문 리뷰] Efficient implementation of Markov chain Monte Carlo when using an unbiased likelihood estimator

Randal Douc, M. Pitt외 2명|arXiv (Cornell University)|2012. 10. 05.

Markov Chains and Monte Carlo Methods참고 문헌 24인용 수 8

한 줄 요약

이 논문은 입자 필터와 같은 비편향된 우도 추정기(likelihood estimator)를 사용할 때 마르코프 체인 몬테카를로(MCMC)에서 몬테카를로 표본 수 $N$을 선택하는 지침을 제안한다. 가우시안 잡음 가정 하에, 효율적인 체인의 경우 표준편차가 약 1.0이고, 효율이 떨어지는 체인의 경우 약 1.7일 때 최적의 효율성이 달성되며, 실용적인 기본값으로는 1.2를 제안한다.

ABSTRACT

When an unbiased estimator of the likelihood is used within a Metropolis--Hastings chain, it is necessary to trade off the number of Monte Carlo samples used to construct this estimator against the asymptotic variances of averages computed under this chain. Many Monte Carlo samples will typically result in Metropolis--Hastings averages with lower asymptotic variances than the corresponding Metropolis--Hastings averages using fewer samples. However, the computing time required to construct the likelihood estimator increases with the number of Monte Carlo samples. Under the assumption that the distribution of the additive noise introduced by the log-likelihood estimator is Gaussian with variance inversely proportional to the number of Monte Carlo samples and independent of the parameter value at which it is evaluated, we provide guidelines on the number of samples to select. We demonstrate our results by considering a stochastic volatility model applied to stock index returns.

연구 동기 및 목표

• 비편향된 우도 추정기를 사용할 때 계산 비용과 渐近 분산 사이의 상충 관계를 다루기 위해.
• 목표로 하는 渐近 분산에 대해 계산 시간을 최소화하는 데 기여하는 우도 추정에서 몬테카를로 표본 수 $N$을 선택하는 실용적 지침을 제공하기 위해.
• 이전 연구를 확장하여 제안 분포와 잡음 분포에 대한 가정을 완화하면서도 계산 시간에 대한 계산 가능한 경계를 제공하기 위해.
• 특히 우도가 추정이 어려운 경우에 적용 가능한 상태공간 모형과 입자 필터에 일반적으로 적용 가능한 프레임워크를 제공하기 위해.

제안 방법

• 정확한 최소화가 불가능한 일반적인 경우에 정확한 계산 시간이 아닌 명시적 상한을 최소화하는 방법을 제안한다.
• 로그우도 추정기의 가우시안 잡음은 $N$에 반비례하는 분산을 가지며, 매개변수 값과는 독립적이라고 가정한다.
• 가짜 마진널 MCMC 프레임워크와 매개변수 및 보조 변수에 대한 공동 사후분포를 사용하여 비효율성 인자와 계산 시간에 대한 이론적 경계를 유도한다.
• 자동상관관계와 비효율성 인자와 같은 핵심 항목을 수치적 적분과 몬테카를로 적분을 통해 평가한다.
• 입자 필터를 사용한 확률적 변동성 모형에 이 프레임워크를 적용하여 이론적 지침을 실증 결과로 검증한다.
• 경험 법칙을 도출: 효율적인 체인의 경우 로그우도 추정기의 표준편차를 약 1.0으로, 효율이 떨어지는 체인의 경우 1.7으로 설정하거나, 기본값으로 1.2로 설정할 것.

실험 결과

연구 질문

• RQ1 비편향된 우도 추정기를 사용할 때 MCMC에서 계산 시간을 최소화하기 위해 사용할 몬테카를로 표본 수 $N$의 최적 값은 무엇인가?
• RQ2 우도가 입자 필터나 중요도 표본 추출을 통해 추정될 경우, $N$의 선택은 MCMC 평균의 渐近 분산에 어떻게 영향을 미치는가?
• RQ3 최적의 $N$을 해석적으로 결정할 수 있는 조건은 무엇이며, 이러한 조건은 i.i.d. 잡음과 등방성 제안 분포를 초월해 어떻게 일반화될 수 있는가?
• RQ4 메트로폴리스-해스팅스 제안의 효율성이 로그우도 추정기의 표준편차 최적 값에 어떻게 영향을 미치는가?
• RQ5 실제로 흔히 그렇듯 진정한 사후분포의 효율성이 알려져 있지 않을 경우, $N$에 대한 실용적 지침을 도출할 수 있는가?

주요 결과

• 정확한 우도를 사용할 때 효율적인 메트로폴리스-해스팅스 체인의 경우, 로그우도 추정기의 최적 표준편차는 약 1.0이다.
• 효율이 떨어지는 체인의 경우 최적 표준편차는 1.7로 증가하여, 혼합이 잘 되지 않는 체인에서의 노이즈 제어 필요성을 반영한다.
• 진짜 체인 효율이 알려져 있지 않을 경우 실용적인 기본 설정으로 표준편차를 1.2로 설정하는 것이 바람직하며, 이는 분산과 계산 비용을 균형 있게 조절한다.
• 확률적 변동성 모형에서의 실증 결과는 계산 시간이 이론적 지침에 가까운 로그우도 추정기 표준편차에서 최소가 됨을 확인한다.
• 제안의 상관관계가 증가할수록(예: $\rho = 0.9$) 상대적 계산 시간의 곡선이 더 평탄해지며, 이는 지속적인 제안에서 $N$에 대한 민감도가 낮아지는 것을 나타낸다.
• 계산 시간에 대한 이론적 경계는 수치적으로 검증되었으며, 다양한 매개변수 값과 제안 분포에서 일관된 성능을 보였다.