[논문 리뷰] Resampling in Time Series Models

Abhishek Bhattacharya, Arup Bose|arXiv (Cornell University)|2012. 01. 05.

Financial Risk and Volatility Modeling참고 문헌 7인용 수 3

한 줄 요약

이 논문은 AR(1) 및 ARCH(1) 시간 시리즈 모델에서 추정기의 표본 분포를 추정하기 위해 가중 부트스트랩(WB) 및 잔차 부트스트랩(RB) 방법을 제안하고 분석한다. 미묘한 모멘트 및 가중 조건 하에서 가중 부트스트랩의 점근적 일致성을 확립하며, 특히 무거운 尾를 가진 오차 설정에서 표본 변동성을 더 잘 포착하는 데서 표준 잔차 부트스트랩보다 뛰어난 성능을 보임을 보여준다.

ABSTRACT

This project revolves around studying estimators for parameters in different Time Series models and studying their assymptotic properties. We introduce various bootstrap techniques for the estimators obtained. Our special emphasis is on Weighted Bootstrap. We establish the consistency of this scheme in a AR model and its variations. Numerical calculations lend further support to our consistency results. Next we analyze ARCH models, and study various estimators used for different error distributions. We also present resampling techniques for estimating the distribution of the estimators. Finally by simulating data, we analyze the numerical properties of the estimators.

연구 동기 및 목표

• AR(1) 및 ARCH(1) 시간 시리즈 모델에서 다양한 오차 분포 하에서 추정기의 점근적 성질을 조사한다.
• 정규 분포 및 무거운 尾 오차 분포 하에서 최대우도, 최소절대편차 등 다양한 추정 절차의 표본 내 성능을 평가한다.
• 일반적인 모멘트 및 가중 조건 하에서 AR(1) 모델의 모수에 대한 가중 부트스트랩(WB) 추정기의 일치성을 확립한다.
• ARCH(1) 모델에서 추정기의 표본 분포를 근사하는 데 있어 잔차 부트스트랩(RB), m-out-of-n RB, WB의 성능을 비교한다.
• t-분포(자유도 3 및 4)와 같은 비정규적, 무거운 尾 오차 분포 하에서 추정기 및 재표본 추출 기법의 강건성을 평가한다.

제안 방법

• 가중 부트스트랩 추정기를 $\hat{\theta}^{*}_{n} = \frac{\sum_{t=2}^{n} w_{t} X_{t} X_{t-1}}{\sum_{t=2}^{n} w_{t} X^{2}_{t-1}}$ 로 정의하며, 여기서 $w_t$ 는 데이터와 독립인 i.i.d. 무작위 가중치이다.
• P-W 정리(Praestgaard 및 Wellner, 1993)를 적용하여, 가중치에 평균 1, 분산 $o(n)$, 약한 의존성 조건이 만족될 경우 가중 부트스트랩의 부트스트랩 중심극한정리(central limit theorem)를 유도한다.
• 잔차 부트스트랩을 통해 표준화된 잔차 $\hat{Z}_t = X_t - \hat{\theta}_n X_{t-1}$ 를 재표본 추출하여 AR(1) 과정을 재시뮬레이션한다.
• 무거운 尾 설정에서 일致성을 향상시키기 위해 $n=100$ 일 때 $m=50$ 인 m-out-of-n 잔차 부트스트랩을 적용한다.
• 원본 데이터 기반의 검정 통계량 $V_n$ 과 부트스트랩 표본 기반의 $V_n^*$ 의 경험분포를 비교하기 위해 콜모고로프-스미르노프(Kolmogorov-Smirnov) 검정을 사용한다.
• 각 설정당 200개의 표본을 사용한 몬테카를로 시뮬레이션을 수행하며, $n=100$ 으로 설정하고, 다양한 추정기 및 오차 분포에 대해 평균 절대오차를 계산한다.

실험 결과

연구 질문

• RQ1 AR(1) 모델의 모수 $\theta$ 에 대해 가중 부트스트랩 추정기가 어떤 조건에서 일치하는가?
• RQ2 표본 분포를 추정하는 데 있어 가중 부트스트랩의 성능이 잔차 부트스트랩보다 어떻게 다를까?
• RQ3 정규 및 무거운 尾 오차 분포 하에서 최대우도, 최소절대편차, 기타 추정 절차 중 평균 절대오차가 가장 낮은 것은 무엇인가?
• RQ4 무거운 尾 오차 분포를 가진 ARCH(1) 모델에서 m-out-of-n 잔차 부트스트랩이 전체 표본 잔차 부트스트랩보다 일치성에서 향상되는가?
• RQ5 콜모고로프-스미르노프 검정으로 측정했을 때, WB, RB, m-out-of-n RB 등의 부트스트랩 방법이 ARCH(1) 모델에서 추정기의 진짜 표본 분포를 얼마나 잘 근사하는가?

주요 결과

• 가중 부트스트랩 추정기 $\hat{\theta}^{*}_n$ 은 조건 A1–A4 하에서 점근적으로 일치하며, $P_B[\sqrt{n}\sigma_n^{-1}(\hat{\theta}^{*}_n - \hat{\theta}_n) \leq x \mid X_1,\dots,X_n] - P[Y \leq x] = o_P(1)$ 를 만족한다. 여기서 $Y \sim N(0, 1-\theta^2)$ 이다.
• 정규 오차 분포 하에서는 최대우도 추정기($\hat{\theta}_{ml}$)가 가장 낮은 평균 절대오차(2.548)를 기록하지만, $t_3$ 오차 분포에서는 최소절대편차 추정기($\hat{\theta}_2$)가 평균 오차 2.307로 가장 우수하다.
• 전체 표본 잔차 부트스트랩은 유의미한 KS 검정 p-값 0.005(예: $\hat{c}_{0ml}$ 기준)로 일치하지 않음을 보여, 실패함을 시사한다. 반면 m-out-of-n RB 및 WB는 p-값 > 0.05 로 보다 우수한 성능을 보였다.
• 가중 부트스트랩은 ARCH(1) 모델에서 최대우도 및 최소절대편차 추정기 모두 잘 작동하며, 각각 p-값 0.286 및 0.057을 기록하여 진짜 표본 분포를 잘 근사함을 시사한다.
• 오차가 $t_3$-분포일 경우 최대우도 추정기의 평균 오차는 11.097로 증가하지만, 최소절대편차 추정기($\hat{\theta}_2$)는 이를 2.307로 낮추며, 중후한 尾에 대한 강건성을 보여준다.
• 오차가 $t_4$-분포일 경우 최소절대편차 추정기($\hat{\theta}_2$)의 평균 오차는 4.528로 최대우도 추정기(13.107)보다 유의미하게 낮아, 더 무거운 尾에서도 강건함을 확인한다.