[논문 리뷰] A strong law of large numbers for martingale arrays

Yves F. Atchadé|ArXiv.org|2009. 05. 17.

Probability and Risk Models참고 문헌 7인용 수 6

한 줄 요약

이 논문은 새로운 Chow-Birnbaum-Marshall 부등식의 확장 방법을 통해 마팅게일 어레이에 대한 강한 법의 수렴법칙(SLLN)을 수립한다. 모멘트 조건과 점점이 안정성 조건 하에서 정규화된 부분합의 거의확실 수렴을 증명함으로써, 마르코프 체인에 의존하는 데이터에 대한 커널 회귀의 일致성에 대한 마팅게일 기반 증명을 가능하게 한다.

ABSTRACT

We prove a martingale triangular array generalization of the Chow-Birnbaum-Marshall's inequality. The result is used to derive a strong law of large numbers for martingale triangular arrays whose rows are asymptotically stable in a certain sense. To illustrate, we derive a simple proof, based on martingale arguments, of the consistency of kernel regression with dependent data. Another application can be found in \cite{atchadeetfort08} where the new inequality is used to prove a strong law of large numbers for adaptive Markov Chain Monte Carlo methods.

연구 동기 및 목표

• 마팅게일 어레이에 대한 Chow-Birnbaum-Marshall 부등식의 확장을 통해 SLLN 결과를 도출하고자 한다.
• 정규화된 마팅게일 어레이의 합이 거의확실하게 0으로 수렴하는 조건을 확립하고자 한다.
• 종속 데이터에 대한 비모수적 회귀에서 일치성 증명을 위한 마팅게일 이론적 프레임워크를 제공하고자 한다.
• 적응형 마르코프 체인 몽테카를로 방법의 이론적 기초를 강화하고자 한다.
• 마팅게일 기법을 사용하여 종속 데이터 구조에 대한 SLLN 결과를 통합하고 일반화하고자 한다.

제안 방법

• 부분합을 분해하고 하위마팅게일 성질을 활용하여 마팅게일 어레이에 대한 새로운 부등식을 유도한다.
• 어레이의 행별 점점이 안정성을 포착하기 위해 랜덤 변수의 수열 {Rn}을 도입한다.
• 확장된 부등식을 적용하여 어레이의 정규화된 최댓값의 꼬리 확률을 유계로 제한한다.
• Burkholder의 부등식을 사용하여 마팅게일 증분의 모멘트를 차이의 모멘트로 유계로 제한한다.
• 마르코프 커널 P를 통해 포아송 방정식 프레임워크를 구성하여 편향 분해를 위한 보조 함수를 정의한다.
• Nadaraya-Watson 추정량을 편향, 마팅게일, 잔차 항으로 분해하며, 잔차 항이 거의확실하게 0으로 수렴함을 보였다.

실험 결과

연구 질문

• RQ1 마팅게일 어레이의 정규화된 합이 거의확실하게 0으로 수렴하는 조건은 무엇인가?
• RQ2 Chow-Birnbaum-Marshall 부등식은 삼각 어레이 구조를 다룰 수 있도록 어떻게 확장될 수 있는가?
• RQ3 모멘트 및 안정성 조건이 마르코프 의존성 하에서 커널 회귀 추정량의 일치성에 어떻게 영향을 미치는가?
• RQ4 마팅게일 방법은 비-i.i.d. 데이터에 대해 비모수적 회귀에서 거의확실 수렴을 증명하는 데 사용될 수 있는가?
• RQ5 마르코프 체인의 기하적 에르고딕성은 커널 추정량의 수렴 속도에 어떻게 영향을 미치는가?

주요 결과

• 마팅게일 어레이에 대한 새로운 부등식이 수립되었으며, 이는 Chow-Birnbaum-Marshall 부등식을 삼각 어레이로 일반화한다.
• 기대 증분이 {Rn}의 행별 이격도에서 사라지고 모멘트 조건이 만족될 경우, cnMn,n → 0 a.s. 를 증명하였다.
• 조건 ∑ cn E¹/²[|Rn|²] < ∞ 가 성립하면 분해에서 잔차 항이 거의확실하게 0으로 수렴한다.
• 기하적 에르고딕 마르코프 체인을 가진 커널 회귀에서, 미약한 정규성 조건 하에서 Nadaraya-Watson 추정량이 강하게 일치함을 보였다.
• 추정량의 수렴 속도는 대역폭 수열 hn ∼ n⁻ᵝ (β < 1/4) 로 제어되며, 이는 거의확실 수렴을 보장한다.
• 마팅게일 어레이를 통한 증명 기법은 강한 혼합성 또는 강한 혼합성 가정 없이도 일致성에 대한 깔끔하고 통합적인 접근법을 제공한다.