[논문 리뷰] A Comparison of Methods for Computing Autocorrelation Time

Madeleine B. Thompson|arXiv (Cornell University)|2010. 10. 31.

Statistical Methods and Bayesian Inference참고 문헌 14인용 수 43

한 줄 요약

이 논문은 마르코프 체인 몬테카를로(MCMC) 시뮬레이션에서 자기상관 시간을 추정하는 네 가지 방법—배치 평균, 스펙트럼 피팅, 초기 시퀀스 추정기(ICS), 자기회귀(AR) 모델링—을 평가한다. AR 과정 방법이 가장 정확하며 유일하게 신뢰구간을 제공하므로, MCMC 샘플링에서 수렴 속도를 신뢰성 있게 추정하는 데 가장 선호되는 방법이다.

ABSTRACT

This paper describes four methods for estimating autocorrelation time and evaluates these methods with a test set of seven series. Fitting an autoregressive process appears to be the most accurate method of the four. An R package is provided for extending the comparison to more methods and test series.

연구 동기 및 목표

• MCMC 체인에서 자기상관 시간을 추정하는 네 가지 방법의 정확도를 평가하고 비교하는 것.
• 다양한 의존 구조를 가진 시간열에서 가장 잘 작동하는 방법을 특정하는 것.
• 추가 방법과 테스트 시리즈로의 비교를 확장하기 위한 실용적인 R 패키지 ACTCompare를 제공하는 것.
• 특히 장거리 의존성 또는 비재귀적 동역학이 존재할 경우 각 방법의 신뢰성과 일관성을 평가하는 것.
• 자기상관 시간 추정치에 대해 신뢰구간을 신뢰성 있게 생성할 수 있는지 확인하는 것.

제안 방법

• 체인을 n^(1/3)개의 배치로 나누고 각 배치 크기를 n^(2/3)으로 설정하여, 배치 평균 분산과 전체 표본 분산의 비율을 통해 자기상관 시간을 추정한다.
• 저주파수에서 스펙트럼의 로그에 대해 선형 회귀를 수행하고, 영주파수 스펙트럼 밀도를 추정하여 자기상관 시간을 계산한다.
• 초기 볼록 시퀀스(ICS) 추정기를 사용하며, 이는 초기 양수 시퀀스의 스무딩된 형태로, 연속된 쌍이 음수가 되면 표본 ACF 합을 잘라내고 볼록성 스무딩을 적용한다.
• 시리즈를 AIC로 선택한 p차 자기회귀 과정으로 모델링하고, Yule-Walker 방정식을 통해 계수를 추정하며, AR 계수에서 유도된 닫힌 형태 식을 사용해 자기상관 시간을 계산한다.
• AR 계수 추정치의 渐近 분산을 몬테카를로 시뮬레이션을 통해 추정하여 AR 기반 추정치의 95% 신뢰구간을 생성한다.
• 모든 방법을 AR(1), AR(2), AR(1)-ARCH(1), 그리고 실제 MCMC 출력물인 Met-Gauss와 ARMS-Bimodal를 포함한 일곱 개의 MCMC 유사 시간열로 구성된 테스트 세트에서 평가한다.

실험 결과

연구 질문

• RQ1 배치 평균, 스펙트럼 피팅, ICS, 또는 AR 모델링 중 어느 방법이 다양한 시간열에서 진짜 자기상관 시간을 가장 정확하게 추정하는가?
• RQ2 장거리 의존성 또는 진동하는 자기상관 함수를 가진 시리즈, 예를 들어 AR(2) 과정에서는 각 방법이 어떻게 작동하는가?
• RQ3 AR 과정 방법이 자기상관 시간 추정치에 대해 신뢰구간을 신뢰성 있게 생성할 수 있는가?
• RQ4 ICS 추정기가 왜 AR(2) 과정에서 실패하는가? 이는 비재귀적 동역학 하에서 초기 시퀀스 추정기의 일관성에 대해 무엇을 시사하는가?
• RQ5 특히 짧은 체인의 경우, 부분시리즈 길이에 따라 추정 정확도는 어떻게 변하는가?

주요 결과

• AR 과정 방법은 모든 테스트 시리즈에서 다른 세 가지 방법보다 정확도가 뛰어나며, 진짜 자기상관 시간에 가장 빨리 수렴한다.
• ICS 추정기가 AR(2) 과정에서 실패하는 이유는 자기상관 함수가 첫 번째 제로크로싱 이후에 상쇄 효과를 보이며, 이는 일관성을 요구하는 재귀성 가정을 위반하기 때문이다.
• 배치 평균은 두 번째로 정확도가 높으며 계산 속도가 훨씬 빨라 정밀도보다 속도를 우선시할 경우 적합하다.
• 스펙트럼 피팅은 가장 신뢰할 수 없으며 일부 경우에 추정치를 생성하지 못하고 진짜 값으로 수렴하는 데 가장 느리다.
• AR 과정 방법은 자기상관 시간에 대해 합리적으로 校정된 95% 신뢰구간을 생성하며, 특히 진짜 자기상관 시간보다 긴 부분시리즈에서 특히 그렇다.
• 작은 표본에서는 AR(2) 과정의 자기상관 시간 추정치가 진동하는 행동으로 인해 더 길게 보일 수 있으나, 이는 일시적인 오류이며 더 큰 표본에서는 사라진다.