[논문 리뷰] Quasi-Newton particle Metropolis-Hastings

Johan Dahlin, Fredrik Lindsten외 1명|arXiv (Cornell University)|2015. 02. 12.

Markov Chains and Monte Carlo Methods참고 문헌 19인용 수 7

한 줄 요약

이 논문은 비선형 상태공간 모델에서 추정 가능성이 없는 우도를 가진 베이지안 매개변수 추론에서 랜덤 워크 제안 방식 대신 기울기 기반 헤시안 근사치를 사용함으로써 혼합 성능을 향상시키는 준뉴턴 입자 메트로폴리스-해스팅스(qPMH2) 알고리즘을 제안한다. 이 방법은 입자 스무딩을 통한 국소 메모리 BFGS 업데이트를 활용하여 조정이 적고 더 나은 혼합 성능을 달성하며, $\alpha$-스테이블 분포를 가진 확률적 변동성 모델에서 뛰어난 성능을 보였다.

ABSTRACT

Particle Metropolis-Hastings enables Bayesian parameter inference in general nonlinear state space models (SSMs). However, in many implementations a random walk proposal is used and this can result in poor mixing if not tuned correctly using tedious pilot runs. Therefore, we consider a new proposal inspired by quasi-Newton algorithms that may achieve similar (or better) mixing with less tuning. An advantage compared to other Hessian based proposals, is that it only requires estimates of the gradient of the log-posterior. A possible application is parameter inference in the challenging class of SSMs with intractable likelihoods. We exemplify this application and the benefits of the new proposal by modelling log-returns of future contracts on coffee by a stochastic volatility model with $α$-stable observations.

연구 동기 및 목표

• 랜덤 워크 제안 방식으로 인해 조정이 많이 필요한 표준 입자 메트로폴리스-해스팅스(PMH)의 열악한 혼합 성능을 해결하기 위해.
• 제안 공분산 조정을 위한 피LOT 런에 대한 의존도를 줄이기 위해 기울기 정보를 활용하기 위해.
• 명시적인 헤시안 계산 없이도 기울기 추정치만을 사용하여 헤시안을 근사하는 제안 기반 메커니즘을 개발하기 위해.
• 예를 들어 $\alpha$-스테이블 분포를 가진 관측값을 가진 모델과 같이 추정 불가능한 우도를 가진 모델에서의 효과성을 입증하기 위해.
• 고차원 또는 비등방성 사후 분포 설정에서 기존 PMH 방법에 비해 확장 가능하고 조정이 적은 대안을 제공하기 위해.

제안 방법

• 입자 메트로폴리스-해스팅스 프레임워크 내에서 제안 분포를 구성하기 위해 국소 메모리 BFGS 알고리즘을 수정하여 사후 분포의 로그 기울기 추정치를 사용한다.
• 입자 스무딩을 사용하여 사후 분포의 기울기를 추정함으로써 명시적인 헤시안 계산 없이도 헤시안 근사를 가능하게 한다.
• 과거 기울기 정보를 기반으로 제안 공분산 행렬을 반복적으로 개선하는 준뉴턴 업데이트 규칙을 적용한다.
• 제안된 qPMH2를 입자 MCMC 프레임워크에 통합하여 표준 랜덤 워크 제안 방식을 조정된, 기울기 기반의 제안 방식으로 대체한다.
• 선형 가우시안 상태공간 모델과 $\alpha$-스테이블 분포를 가진 수익률을 가진 확률적 변동성 모델에 모두 이 방법을 적용한다.
• 추정 불가능한 우도를 추정하기 위해 순차적 몬테카를로(SMC)를 사용하고, 헤시안 근사를 위한 기울기 계산을 위해 입자 스무딩을 활용한다.

실험 결과

연구 질문

• RQ1 기울기 기반 준뉴턴 제안 방식이 피LOT 런이 많이 필요하지 않은 채로 입자 메트로폴리스-해스팅스의 혼합 성능을 향상시킬 수 있는가?
• RQ2 헤시안 근사를 위해 기울기 추정치만을 사용하는 것이 랜덤 워크 또는 전체 헤시안 기반 제안 방식보다 혼합 효율성 측면에서 뛰어나게 되는가?
• RQ3 qPMH2 방법은 $\alpha$-스테이블 분포를 가진 관측값을 가진 모델과 같이 추정 불가능한 우도를 가진 모델에서 어떻게 성능을 발휘하는가?
• RQ4 기울기 추정의 분산이 qPMH2 알고리즘의 혼합 성능에 미치는 영향은 무엇인가?
• RQ5 표준 PMH의 랜덤 워크 제안 방식에 비해 qPMH2는 고차원 매개변수 공간으로의 확장에서 효과적으로 작동할 수 있는가?

주요 결과

• qPMH2 방법은 조정 노력이 훨씬 적은데도 불구하고 사전 조정된 PMH와 비슷하거나 더 나은 혼합 성능을 달성한다.
• 알고리즘은 단지 두 개의 매개변수($\delta$ 및 $M$)만 선택하면 되므로, 공분산 조정이 필요한 랜덤 워크 제안 방식에 비해 구현이 간소화된다.
• 확률적 변동성 모델에서 $\alpha$-스테이블 수익률을 가진 경우, qPMH2는 각각 $\mu$, $\phi$, $\sigma_v$, $\alpha$에 대해 후행 평균 $\widehat{\theta} = \{0.214, 0.931, 0.268, 1.538\}$을 추정하였다.
• qPMH2로부터의 사후 추정치는 표준 PMH와 일관되며, 이는 신뢰성과 정확성을 시사한다.
• qPMH2로부터의 스무딩된 로그 변동성 추정치는 2014년 3월 경과에서의 점프를 포함하여 저변동성 및 고변동성 기간을 성공적으로 포착하였다.
• 기울기 분산이 낮거나 중간일 경우 메서드는 강건한 성능을 보였지만, 기울기 분산이 높아지면 혼합 성능이 저하되는 경향을 보였으며, 이는 향상된 입자 스무딩 기법이 필요함을 시사한다.