[논문 리뷰] Auxiliary Likelihood-Based Approximate Bayesian Computation in State Space Models

Gael M. Martin, Brendan McCabe외 3명|arXiv (Cornell University)|2016. 04. 27.

Markov Chains and Monte Carlo Methods참고 문헌 43인용 수 3

한 줄 요약

이 논문은 상태공간 모델에 대해 계산적으로 효율적인 근사 베이지안 계산(ABC) 방법을 제안하며, 보조 가능도를 요약 통계량으로 사용하여 베이지안 일致성을 확보한다. 통합 가능도를 통해 다중매개변수 설정에서 정확도를 향상시키고, 확률적 볼atility 모델에서 뛰어난 성능을 보인다.

ABSTRACT

A computationally simple approach to inference in state space models is proposed, using approximate Bayesian computation (ABC). ABC avoids evaluation of an intractable likelihood by matching summary statistics for the observed data with statistics computed from data simulated from the true process, based on parameter draws from the prior. Draws that produce a “match” between observed and simulated summaries are retained, and used to estimate the inaccessible posterior. With no reduction to a low-dimensional set ofsufficient statistics being possible in the state space setting, we define the summaries as the maximum of an auxiliary likelihood function, and thereby exploit the asymptotic sufficiency of this estimator for the auxiliary parameter vector. We derive conditions under which this approach—including a computationally efficient version based on the auxiliary score—achieves Bayesian consistency. To reduce the well-documented inaccuracy of ABC in multiparameter settings, we propose the separate treatment of each parameter dimension using an integrated likelihood technique. Three stochastic volatility models for which exact Bayesian inference is either computationally challenging, or infeasible, are used for illustration. We demonstrate that our approach compares favorably against an extensive set of approximate and exact comparators. An empirical illustration completes the article. Supplementary materials for this article are available online.

연구 동기 및 목표

• 정확한 베이지안 추론이 계산적으로 불가능한 상태공간 모델에서의 비가능도 문제를 다루기.
• 보조 가능도에서 유도된 요약 통계량을 사용하여 직접 가능도 평가를 피하는 계산적으로 단순한 ABC 방법 개발.
• 보조 최대우도 추정기의 渐近 충분성 특성을 활용하여 ABC 근사의 베이지안 일치성 확보.
• 각 매개변수 차원을 별도로 다루는 새로운 통합 가능도 기법을 통해 고차원 매개변수 공간에서 ABC의 정확도 향상.
• 정확한 추론이 어려운 또는 불가능한 복잡한 확률적 볼atility 모델에서 방법의 효과성 입증.

제안 방법

• 보조 가능도 함수의 최대값을 ABC의 요약 통계량으로 정의하며, 이는 보조 매개변수 벡터에 대해 渐近 충분성을 가지므로 활용.
• ABC 수락 단계에서 전체 보조 가능도 대신 계산적으로 효율적인 보조 스코어를 사용.
• 각 매개변수 차원을 별도로 다루는 통합 가능도 기법 적용으로 다중매개변수 추론의 정확도 향상.
• 관측된 요약 통계량과 시뮬레이션된 요약 통계량 간의 근접도를 만족하는 매개변수 샘플을 유지하여 후행 분포 근사 형성.
• 특히 보조 모델에 대한 정규성 조건을 만족할 경우 ABC 절차가 베이지안 일치성을 달성하는 조건 유도.
• 보조 모델이 잘 지정되어 있고 계산적으로 다룰 수 있도록 선택하여 시뮬레이션 기반 추론으로 구현.

실험 결과

연구 질문

• RQ1 보조 가능도가 상태공간 모델의 ABC에서 효과적인 요약 통계량이 될 수 있는가? 이는 일치성과 계산적 효율성을 보장하는가?
• RQ2 보조 스코어를 사용하면 정확도를 희생시키지 않고 계산 속도를 어떻게 향상시킬 수 있는가?
• RQ3 통합 가능도 기법을 통해 매개변수 차원을 별도로 다루는 방식이 다중매개변수 설정에서 ABC의 정확도 저하를 어느 정도 줄이는가?
• RQ4 보조 모델에 대한 정규성 조건 하에서 제안된 ABC 방법이 베이지안 일치성을 달성하는가?
• RQ5 확률적 볼atility 모델에서 정확도와 계산 비용 측면에서 정확한 방법과 다른 근사 베이지안 방법과 비교해 볼 때 방법의 성능은 어떠한가?

주요 결과

• 제안된 보조 가능도 기반 ABC 방법은 정규성 조건 하에서 베이지안 일치성을 확보하여 타당한 후행 분포 근사 보장.
• 전체 가능도 대신 보조 스코어를 사용하면 계산 비용을 크게 줄일 수 있으며, 동시에 뛰어난 성능 유지.
• 각 매개변수 차원을 별도로 다루는 통합 가능도 기법은 기존 ABC에 비해 다중매개변수 모델에서 ABC의 정확도 향상.
• 세 개의 확률적 볼atility 모델에서 추정 정확도 측면에서 다양한 근사 및 정확한 비교 방법들을 초월.
• 실증 결과는 잠재 상태 과정을 포함한 실제 응용에서 방법의 실용성과 강건성을 확인.
• 보조 자료는 재현 가능성 확인 및 제안된 접근법의 추가 구현 세부 정보 제공.