[論文レビュー] A strong law of large numbers for martingale arrays

Yves F. Atchadé|ArXiv.org|May 17, 2009

Probability and Risk Models参考文献 7被引用数 6

ひとこと要約

本稿では、チャウ＝ビルンバウム＝マーシャル不等式の新規拡張を用いて、マルティングル行列に対する強い大数の法則（SLLN）を確立する。モーメント条件および漸近的安定性条件の下で、正規化された部分和のほとんど確実収束を証明し、従って、従属するマーキov連鎖データに対するカーネル回帰の一致性のマルティングルに基づく証明を可能にする。

ABSTRACT

We prove a martingale triangular array generalization of the Chow-Birnbaum-Marshall's inequality. The result is used to derive a strong law of large numbers for martingale triangular arrays whose rows are asymptotically stable in a certain sense. To illustrate, we derive a simple proof, based on martingale arguments, of the consistency of kernel regression with dependent data. Another application can be found in \cite{atchadeetfort08} where the new inequality is used to prove a strong law of large numbers for adaptive Markov Chain Monte Carlo methods.

研究の動機と目的

• マルティングル行列に対するチャウ＝ビルンバウム＝マーシャル不等式の拡張を提案し、SLLNの結果を導出すること。
• 正規化されたマルティングル行列の和がほとんど確実にゼロに収束するための条件を確立すること。
• 従属データを伴う非パラメトリック回帰における一致性の証明のためのマルティングル理論的枠組みを提供すること。
• 適応的マーキov連鎖モンテカルロ法の理論的基盤を支援すること。
• マルティングル技術を用いて、従属データ構造のSLLN結果を統一的かつ一般化すること。

提案手法

• 部分和の分解と下位マルティングルの性質を用いて、マルティングル行列に対する新しい不等式を導出する。
• 配列の行ごとの漸近的安定性を捉えるために、確率変数の列 {Rn} を導入する。
• 拡張された不等式を用いて、配列内の正規化された最大値の裾確率をバウンドする。
• バーグホルダーの不等式を用いて、マルティングル増分のモーメントを差分のモーメントでバウンドする。
• マーキov核 P を用いてポアソン方程式の枠組みを構築し、バイアス分解のための補助関数を定義する。
• ナダラヤ＝ワトソン推定量をバイアス、マルティングル、残差項に分解し、残差項がほとんど確実に消えることを示す。

実験結果

リサーチクエスチョン

• RQ1 マルティングル行列の正規化された和がほとんど確実にゼロに収束するための条件は何か？
• RQ2 チャウ＝ビルンバウム＝マーシャル不等式は、どのように三角行列構造を扱うために拡張できるか？
• RQ3 モーメント条件および安定性条件が、マーキov依存の下でカーネル回帰推定量の一致性を保証するにはどのようなものか？
• RQ4 マルティングル手法を用いて、非i.i.d.データにおける非パラメトリック回帰のほとんど確実収束を証明できるか？
• RQ5 マーキov連鎖の幾何的エルゴディシティは、カーネル推定量の収束速度にどのように影響するか？

主な発見

• 三角行列に一般化されたチャウ＝ビルンバウム＝マーシャル不等式を拡張した、マルティングル行列用の新規不等式が確立された。
• 期待値の増分が {Rn} で消失し、モーメント条件が成り立つならば、cnMn,n → 0 a.s. が証明された。
• 条件 ∑ cn E¹/²[|Rn|²] < ∞ が成立すれば、分解における残差項がほとんど確実に消えることが保証された。
• 幾何的エルゴディックなマーキov連鎖を伴うカーネル回帰において、やや強い正則性条件のもとで、ナダラヤ＝ワトソン推定量が強く一貫していることが示された。
• 推定量の収束速度は帯域幅列 hn ∼ n⁻ᵝ に従い、β < 1/4 であるため、ほとんど確実収束が保証された。
• マルティングル行列を用いた証明手法により、強い混合性や強い混合性の仮定を避け、一貫性を明確かつ統一的に証明するアプローチが得られた。