[논문 리뷰] Bootstrap Central Limit Theorem for Chains of Infinite Order via Markov Approximations

Pierre Collet, Denise Duarte외 1명|ArXiv.org|2005. 05. 11.

Bayesian Methods and Mixture Models참고 문헌 13인용 수 3

한 줄 요약

이 논문은 캐논리컬 마르코프 근사법을 활용하여 무한 차수의 체인에 대한 부트스트랩 리샘플링 방법을 제안한다. 지수적 메모리 감쇠 조건 하에서, 순서 $k$와 블록 수 $m_k$가 제어된 관계로 발산할 때, 표본 평균의 부트스트랩 분포가 정규 분포로 수렴함을 보여, 표본 평균에 대한 부트스트랩 중심극한정리(Bootstrap Central Limit Theorem)를 확립한다.

ABSTRACT

We present a new approach to the bootstrap for chains of infinite order taking values on a finite alphabet. It is based on a sequential Bootstrap Central Limit Theorem for the sequence of canonical Markov approximations of the chain of infinite order. Combined with previous results on the rate of approximation this leads to a Central Limit Theorem for the bootstrapped estimator of the sample mean which is the main result of this paper.

연구 동기 및 목표

• 장기적 의존성을 가진 확률과정, 특히 무한 차수 마르코프 체인에 대해 타당한 부트스트랩 절차를 개발하기 위해.
• 기존의 i.i.d. 부트스트랩이 시간적 의존성으로 인해 실패하는 경우, 의존적인 데이터를 리샘플링하는 데 도전하는 것.
• 이러한 과정에서 표본 평균 추정량의 부트스트랩 추정량에 대한 중심극한정리를 확립하기 위해.
• 통계적 추론을 위해 무한 차수 체인의 행동과 그 유한 차수 마르코프 근사 간 격차를 메우기 위해.
• 부트스트랩 분포가 점차적으로 표본 평균의 진짜 표집 분포와 일치하도록 보장하기 위해.

제안 방법

• 무한 차수 체인을 근사하기 위해 순서 $k$의 캐논리컬 마르코프 체인의 수열을 구성한다.
• 연속된 $k$-심볼 초기 문자열의 발생 간격을 i.i.d. 블록으로 삼아 리샘플링을 수행한다.
• 원본 체인과 그 마르코프 근사 간의 공동 구축을 위해 최대 결합(maximal coupling)을 적용한다.
• 이전 연구에서 확보된 $φ$-혼합 성질과 오차 한계를 활용하여 근사 오차를 통제한다.
• i.i.d. 균일 선택을 통한 블록 리샘플링을 통해 부트스트랩 표본을 생성한다.
• 원본 체인과 근사 체인 간의 경로 불일치 확률을 통제하여 부트스트랩 분산과 분포의 수렴성을 확립한다.

실험 결과

연구 질문

• RQ1 무한 차수 체인에 대해 점근적 타당성을 유지하는 부트스트랩 절차를 구성할 수 있는가?
• RQ2 증가하는 순서 $k$를 갖는 마르코프 근사법을 어떻게 활용하여 의존적인 과정에서 블록 기반 리샘플링을 가능하게 할 수 있는가?
• RQ3 무한 차수 체인에서 표본 평균의 부트스트랩 분포가 정규 분포로 수렴하는 조건은 무엇인가?
• RQ4 무한 차수 과정을 근사할 때 부트스트랩 추정량의 수렴 속도는 어느 정도 달성 가능한가?
• RQ5 원본 체인과 그 마르코프 근사 간의 커플링은 부트스트랩의 타당성에 어떤 영향을 미치는가?

주요 결과

• 제시된 조건 하에서 표본 평균의 부트스트랩 분포가 법적으로 정규 분포로 수렴한다.
• 순서 $k$와 블록 수 $m_k$가 $c > 18 \log \delta^{-1}$ 조건을 만족하면서 발산할 경우 수렴이 성립하며, 이는 메모리의 지수적 감쇠를 보장한다.
• 핵심 기술적 결과는 원본 체인과 근사 체인의 부트스트랩 추정량 제곱모멘트 간 차이가 $k \to \infty$일 때 0으로 수렴한다는 것이다.
• 시간 $R_{m_k}(k)$까지의 원본 체인과 그 마르코프 근사 간 경로 불일치 확률은 $k \to \infty$일 때 0으로 수렴한다.
• 부트스트랩 분산의 비율 $\sigma^{[k]*}/\sigma^*_{k}$는 확률적으로 1로 수렴하여 분산 추정량의 일致성을 보장한다.
• 원본 체인의 부트스트랩과 그 마르코프 근사의 부트스트랩을 커플링하고 점근적 동치성을 보여줌으로써 부트스트랩 중심극한정리를 확립한다.