[論文レビュー] Estimating beta-mixing coefficients.

Daniel J. McDonald, Cosma Rohilla Shalizi+1 more|PubMed|Mar 4, 2011

Statistical Methods and Inference参考文献 14被引用数 7

ひとこと要約

本稿では、単一の標本パスからの定常時系列における$β$-mixing係数の最初の一貫推定量を提示する。ヒストグラムに基づく密度推定を用い、$L_1$-リスクの一貫性を証明することで、従来は既知の混合率を必要としていた学習理論の結果を実用的に適用可能にする。

ABSTRACT

The literature on statistical learning for time series assumes the asymptotic independence or "mixing" of the data-generating process. These mixing assumptions are never tested, and there are no methods for estimating mixing rates from data. We give an estimator for the beta-mixing rate based on a single stationary sample path and show it is L1-risk consistent.

研究の動機と目的

• データからの$β$-mixing係数の推定手法の欠如、特に従属時系列の統計的学習における重要なギャップを埋める。
• 既知の$β$-mixing率を仮定するが、それらが不明なためにこれまで利用不能であった学習理論の結果を実用的に応用可能にする。
• パラメトリックな仮定を必要としない一般の定常過程に対して、$β$-mixing係数の一貫推定量を開発する。
• 提案された推定量の理論的一致性と収束速度を確立する。特に、マルコフ近似に関して。

提案手法

• 単一の標本パスからの同時分布および周辺分布のヒストグラムに基づく密度推定に依拠する推定量を提案する。
• 関数の全 Variation 距離を用いて、同時分布と周辺分布の積との差を定義し、$β$-mixing係数推定量を定式化する。
• 両方のサンプルサイズ$n$とビン数$d_n$が適切に増加する双漸近的結果を適用して一貫性を保証する。
• バイアスとバイアスのバランスを取るために、$d_n = O(\exp\{W(\log n)\})$ のデータ依存的ビン分割を採用する。
• 中間的近似$\beta^{d_n}(a)$を通じて、経験的推定量$\hat{\beta}^{d_n}(a)$が真の$\beta(a)$に収束することを示し、一貫性を証明する。
• $β$-mixing依存性下でのヒストグラム推定量の$L_1$収束に関する理論的結果に依拠し、既存の密度推定研究を拡張する。

実験結果

リサーチクエスチョン

• RQ1 単一の定常時系列の標本パスから$β$-mixing係数を一貫して推定することは可能か？
• RQ2 データ生成過程にどのような条件が課されると、提案された推定量の$L_1$-リスクの一貫性が保証されるか？
• RQ3 推定量の性能は、ビン分割の選択とサンプルサイズにどのように依存するか？
• RQ4 この推定量を用いることで、従来は適用不能とされていた学習理論の結果を実務で運用可能にすることができるか？
• RQ5 推定量の理論的収束速度は何か？また、$\beta(a)$の尾部挙動にどのように依存するか？

主な発見

• 提案された推定量$\hat{\beta}^{d_n}(a)$は、一般の定常過程において真の$β$-mixing係数$\beta(a)$に対して$L_1$-リスクの一貫性を有する。
• 一貫性は二段階の収束により確立される：まず、経験的ヒストグラム推定量が有限次元近似$\beta^{d_n}(a)$に収束し、次に$d_n \to \infty$の下で$\beta^{d_n}(a)$が$\beta(a)$に収束する。
• ヒストグラム推定量の収束速度は$β$-mixing下で確立され、$d_n = O(\exp\{W(\log n)\})$が一貫性を保証する。
• この推定量は統計的学習における重要なギャップを埋め、既知の$β$-mixing率に依存する既存の結果の利用を可能にする。
• モデルの誤指定に対してもロバストであり、基礎となる過程についてのパラメトリックな仮定を必要としない。
• 明示的な収束速度は$\hat{\beta}^{d_n}(a) \to \beta(a)$に対して導出されていないが、非確率的収束$\beta^{d_n}(a) \to \beta(a)$に依拠しており、これは今後の研究における未解決問題のまま残っている。