[論文レビュー] Bootstrap Central Limit Theorem for Chains of Infinite Order via Markov Approximations

Pierre Collet, Denise Duarte+1 more|ArXiv.org|May 11, 2005

Bayesian Methods and Mixture Models参考文献 13被引用数 3

ひとこと要約

本稿は、標準的なマルコフ近似を用いて、無限次オーダーの連鎖に対するブートストラップリサンプリング手法を導入する。指数的記憶減衰の下で、順序 $k$ とブロック数 $m_k$ が制御された関係で発散する際、標本平均のブートストラップ分布が正規分布に収束することを示すことにより、標本平均に対するブートストラップ中心極限定理を確立する。

ABSTRACT

We present a new approach to the bootstrap for chains of infinite order taking values on a finite alphabet. It is based on a sequential Bootstrap Central Limit Theorem for the sequence of canonical Markov approximations of the chain of infinite order. Combined with previous results on the rate of approximation this leads to a Central Limit Theorem for the bootstrapped estimator of the sample mean which is the main result of this paper.

研究の動機と目的

• 長-range依存性を示す確率過程、特に無限次オーダーの連鎖に対して有効なブートストラップ手順を開発すること。
• 時間的依存性により標準的なi.i.d.ブートストラップが失敗するような従属データのリサンプリングの課題に対処すること。
• このような過程における標本平均推定値のブートストラップ推定値の中心極限定理を確立すること。
• 統計的推論において、無限次連鎖の挙動とその有限次マルコフ近似との間のギャップを埋めること。
• ブートストラップ分布が漸近的に標本平均の真の標本分布と一致することを保証すること。

提案手法

• 無限次連鎖を近似するための順序 $k$ の系列的標準マルコフ連鎖を構築する。
• 連続する $k$ 文字の初期文字列の出現間の遷移を、i.i.d. ブロックとしてリサンプリングに用いる。
• 元の連鎖とそのマルコフ近似を同時に構築するために最大結合を用いる。
• 先行研究からの $φ$-混合性およびレートバウンドを用いて近似誤差を制御する。
• i.i.d. の一様選択によるブロックリサンプリングを用いてブートストラップ標本を生成する。
• 元の連鎖と近似連鎖のパス不一致の確率を制御することで、ブートストラップ分散および分布の収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 漸近的有効性を保つ無限次連鎖のためのブートストラップ手順を構築できるか？
• RQ2 順序 $k$ を増加させるマルコフ近似をどのように用いて、従属過程におけるブロックベースリサンプリングを可能にするか？
• RQ3 無限次連鎖において、標本平均のブートストラップ分布が正規分布に収束する条件は何か？
• RQ4 無限次過程を近似する際、ブートストラップ推定値の収束速度はどの程度達成可能か？
• RQ5 元の連鎖とそのマルコフ近似との間の結合が、ブートストラップの有効性にどのように影響するか？

主な発見

• 所定の条件下で、標本平均のブートストラップ分布は法則収束により正規分布に収束する。
• 順序 $k$ とブロック数 $m_k$ が $c > 18 \log \delta^{-1}$ を満たすように発散する場合に収束が成立し、記憶の指数的減衰が保証される。
• 主な技術的結果は、元の連鎖と近似連鎖のブートストラップ推定値の2次モーメントの差が $k \to \infty$ の際に消えることである。
• 時刻 $R_{m_k}(k)$ までに、元の連鎖とそのマルコフ近似のパス不一致の確率は $k \to \infty$ の際に0に近づく。
• ブートストラップ分散の比 $\sigma^{[k]*}/\sigma^*_{k}$ は確率的に1に収束し、分散推定値の一貫性が保証される。
• 元の連鎖のブートストラップとそのマルコフ近似のブートストラップを結合し、漸近的同等性を示すことにより、ブートストラップ中心極限定理が確立される。