[논문 리뷰] Limit Theorems for quadratic forms of Markov Chains

Yves F. Atchadé, Matias D. Cattaneo|arXiv (Cornell University)|2011. 08. 13.

Markov Chains and Monte Carlo Methods참고 문헌 16인용 수 3

한 줄 요약

이 논문은 마르코프 체인의 이차형식에 대한 마르팅게일 근사 방법을 개발하여 그 점근적 행동을 체계적으로 분석할 수 있게 한다. 비정상적이고 비기하적 에르고딕성 조건 하에서도 U-통계량과 레이지 윈도우 추정기의 중심극한정리가 수립되며, 마르코프 체인 몬테카를로 시뮬레이션을 위한 새로운 강건한 추론 도구를 제공한다.

ABSTRACT

We develop a martingale approximation approach to studying the limiting behavior of quadratic forms of Markov chains. We use the technique to examine the asymptotic behavior of lag-window estimators in time series and we apply the results to Markov Chain Monte Carlo simulation. As another illustration, we use the method to derive a central limit theorem for U-statistics with varying kernels.

연구 동기 및 목표

• 마르코프 체인의 이차형식의 점근적 행동을 분석하기 위한 일반적이고 체계적인 프레임워크를 개발하는 것.
• i.i.d. 또는 정상성 가정을 초월하여 시간에 따라 변하는 핵함수를 가진 U-통계량의 중심극한정리를 확장하는 것.
• 비기하적 에르고딕성과 비정상성 조건 하에서 장기분산의 레이지 윈도우 추정기의 점근적 성질을 연구하는 것.
• MCMC 시뮬레이션에서 강건한 몬테카를로 신뢰구간을 위한 이론적 기반을 마련하는 것.
• 고전적 추론 프레임워크를 확장하여 비정상적 마르코프 체인에 대한 고정-b 점근적 이론을 수립하는 것.

제안 방법

• 이차형식의 마르팅게일 근사를 위해 포아송 방정식의 이변량 형태를 사용한다.
• 근사를 통해 장기분산의 레이지 윈도우 추정기를 분해하여 고전적 및 고정-b 점근적 이론에 대한 새로운 통찰을 제공한다.
• 의존성과 모멘트를 제어하기 위해 가중치 노름과 함수해석학적 도구(예: $W$-노름, $\mathcal{L}_W$ 공간)를 활용한다.
• $V_1$ 및 $V_2$-노름을 포함한 모멘트 및 에르고딕성 조건 하에서 마르코프 체인에 대한 약한 대수법칙을 유도한다.
• 포아송 방정식의 해를 이용해 원래의 이차형식을 마르팅게일 차분의 합과 잔차항의 합으로 표현한다.
• 코시-슈바르츠 부등식과 모멘트 경계를 적용하여 잔차항을 제어하고 확률 수렴성을 확립한다.

실험 결과

연구 질문

• RQ1 마르팅게일 근사는 어떻게 마르코프 체인의 이차형식으로 확장되어 점근적 분석을 가능하게 하는가?
• RQ2 비기하적 에르고딕성 마르코프 체인에서 장기분산의 레이지 윈도우 추정기의 점근적 성질은 무엇인가?
• RQ3 정상성 또는 혼합 조건을 가정하지 않고도 시간에 따라 변하는 핵함수를 가진 U-통계량에 대해 중심극한정리를 수립할 수 있는가?
• RQ4 고정-b 점근적 프레임워크는 비정상적 마르코프 체인으로 어떻게 확장되는가?
• RQ5 일반적인 마르코프 설정에서 레이지 윈도우 추정기의 일致성과 점근정규성을 보장하는 조건은 무엇인가?

주요 결과

• 이전 결과보다 더 약한 조건 하에서 시간에 따라 변하는 핵함수를 가진 U-통계량에 대해 중심극한정리를 수립하였으며, 혼합성 또는 정상성 조건이 필요로 하지 않는다.
• 비기하적 에르고딕성 마르코프 체인에 대해 레이지 윈도우 추정기의 일치성을 증명하여 Flegal과 Jones(2010) 및 Atchade(2011)의 결과를 확장한다.
• 고정-b 점근적 이론이 비정상적 마르코프 체인으로 확장되어 MCMC 추론을 위한 강건한 프레임워크를 제공한다.
• 마르팅게일 근사 방법을 통해 이차형식이 마르팅게일 차분의 합과 잔차의 합으로 분해되며, 적절한 모멘트 및 에르고딕성 조건 하에서 잔차항이 확률적으로 0으로 수렴함을 보였다.
• $V$-기하적 에르고딕성과 모멘트 조건 하에서 가중치를 부여한 마르코프 체인의 합에 대해 약한 대수법칙을 도출하였으며, 이는 정규화된 편차의 수렴을 가능하게 한다.
• 이 방법은 이차형식 분석을 위한 통합적 접근법을 제공하며, $\overline{V}_2$-노름과 $\overline{\mathcal{U}}_1$, $\overline{\mathcal{V}}_1$ 함수를 통해 잔차항에 대한 명시적 경계를 제공한다.