[논문 리뷰] Bayesian Analysis of AR(1) Model

Hossein Masoumi Karakani, Janet van Niekerk외 1명|arXiv (Cornell University)|2016. 11. 26.

Monetary Policy and Economic Impact참고 문헌 13인용 수 4

한 줄 요약

이 논문은 AR(1) 모형에서 자기회귀 계수를 추정하기 위해 정착된 정규분포 사전분포를 사용하여(stationarity를 보장하기 위해) 주관적 베이지안 접근법을 제시한다. 사후분포와 베이즈 추정량을 유도하고, 시뮬레이션과 실제 데이터를 통한 성능 비교를 통해 모수적 방법과 대비하며, 네 가지 사전분포를 사용한 민감도 분석을 수행하여 최고의 결과를 도출한 결과, 최고의 사후밀도 영역 기준에서 정착된 정규분포 사전분포가 뛰어난 성능을 보였다.

ABSTRACT

The first-order autoregressive process, AR (1), has been widely used and implemented in time series analysis. Different estimation methods have been employed in order to estimate the autoregressive parameter. This article focuses on subjective Bayesian estimation as opposed to objective Bayesian estimation and frequentist procedures. The truncated normal distribution is considered as a prior, to impose stationarity. The posterior distribution as well as the Bayes estimator are derived. A comparative study between the newly derived estimator and other existing estimation methods (frequentist) is employed in terms of simulation and real data. Furthermore, a posterior sensitivity analysis is performed based on four different priors; g prior, natural conjugate prior, Jeffreys' prior and truncated normal prior and the performance is compared in terms of Highest Posterior Density Region criterion.

연구 동기 및 목표

• 자기회귀 계수에 대한 정착된 정규분포 사전분포를 통해 정(stationarity) 조건을 만족시키는 주관적 베이지안 프레임워크를 개발하여 AR(1) 모형의 모수 추정을 수행한다.
• 자기회귀 계수에 대해 정착된 정규분포 사전분포를 사용할 때의 사후분포와 베이즈 추정량을 유도한다.
• 시뮬레이션 연구를 통해 제안된 베이즈 추정량과 모수적 추정 방법 간의 정확도와 효율성 측면에서의 성능을 비교한다.
• g-사전분포, 자연 공액 사전분포, 제프레즈의 사전분포, 정착된 정규분포 사전분포를 포함한 네 가지 다른 사전분포를 사용하여 사후 민감도 분석을 수행한다.
• 최고의 사후밀도 영역(HPD) 기준을 사용하여 추정량의 성능을 평가하여 신뢰성과 내진성(robustness)을 점검한다.

제안 방법

• 자기회귀 계수에 대해 정착된 정규분포를 사전분포로 사용하여, 정(stationarity) 조건(|ρ| < 1)을 만족시키도록 한다.
• 제시된 우도 구조와 사전분포 구조 하에서 매개변수의 결합 사후분포를 해석적으로 유도한다.
• 제곱오차 손실함수 하에서 사후평균으로서의 베이즈 추정량을 도출한다.
• 편향, 평균제곱오차, 신뢰구간 커버리지 확률 측면에서 모수적 추정량과 베이즈 추정량을 비교하기 위해 시뮬레이션 연구를 수행한다.
• 실제 시간열 자료를 사용하여 제안된 추정량의 실용적 환경에서의 성능을 검증한다.
• 정착된 정규분포 사전분포를 g-사전분포, 자연 공액 사전분포, 제프레즈의 사전분포로 대체하여 민감도 분석을 수행하고, HPD 영역의 폭과 커버리지 기준으로 성능을 평가한다.

실험 결과

연구 질문

• RQ1 정착된 정규분포 사전분포를 사용한 주관적 베이즈 추정량의 성능은 편향과 평균제곱오차 측면에서 모수적 추정량과 비교해 어떻게 되는가?
• RQ2 AR(1) 모형에서 사전분포 선택이 사후 추론에 미치는 영향은 무엇이며, 특히 정(stationarity)과 HPD 영역 커버리지 측면에서 어떻게 되는가?
• RQ3 다양한 데이터 생성 과정 하에서 정착된 정규분포 사전분포를 기반으로 유도된 베이즈 추정량은 얼마나 내진성(robustness)을 가지는가?
• RQ4 정착된 정규분포 사전분포를 사용할 경우, 유한 표본에서 베이즈 추정량의 모수적 성질이 향상되는가?
• RQ5 AR(1) 모형에서 사전분포 선택이 최고의 사후밀도 영역(HPD) 영역의 폭과 커버리지에 미치는 영향은 어느 정도인가?

주요 결과

• 정착된 정규분포 사전분포를 기반으로 한 베이즈 추정량은 유한 표본에서 모수적 추정량보다 낮은 편향과 평균제곱오차를 보였다.
• 정착된 정규분포 사전분포는 g-사전분포, 자연 공액 사전분포, 제프레즈의 사전분포보다 더 좁고 정확한 최고의 사후밀도(HPD) 영역을 도출하였다.
• 사후 민감도 분석 결과, 사전분포 선택이 HPD 영역의 커버리지와 폭에 상당한 영향을 미치며, 정착된 정규분포 사전분포가 가장 안정적이고 신뢰할 수 있는 결과를 제공함을 확인하였다.
• 시뮬레이션 결과는 제안된 베이즈 추정량이 다양한 데이터 조건 하에서도 양호한 모수적 성질(예: 정확한 커버리지 확률)을 유지함을 보여주었다.
• 정착된 정규분포 사전분포를 사용함으로써 정(stationarity) 조건이 효과적으로 강제되었으며, ρ의 사후 추정치가 (−1, 1) 구간을 벗어나는 것을 방지하였다.
• 실제 자료에 대한 실증 분석을 통해 정착된 정규분포 사전분포가 안정적이고 해석 가능한 모수 추정치를 도출하는 데서 뛰어난 성능을 보였다.