[論文レビュー] Nonparametric estimation for an autoregressive model

Ouerdia Arkoun, Serguei Pergamenchtchikov|ArXiv.org|Jun 18, 2008

Statistical Methods and Inference参考文献 9被引用数 7

ひとこと要約

本稿では、分布が未知の独立同分布(i.i.d.)ノイズを伴う1次マルコフ過程における自己回帰係数関数の非パラメトリック推定のための修正されたカーネル推定量を提案する。 Hölder連続性（1 ≤ β < 2）が既知である場合、この推定量は漸近的最小最大性および効率性を達成し、最適収束速度 $ n^{-\beta/(2\beta+1)} $ を示す。これは、切り捨てカーネルと適応的帯域幅選択を用いた最小最大リスクの鋭い下界および上界の導出により証明される。

ABSTRACT

The paper deals with the nonparametric estimation problem at a given fixed point for an autoregressive model with unknown distributed noise. Kernel estimate modifications are proposed. Asymptotic minimax and efficiency properties for proposed estimators are shown.

研究の動機と目的

• ノイズ分布が未知である状況下で、固定点における自己回帰係数関数 $ S $ の非パラメトリック推定を扱う。
• 既知の Hölder連続性 $ \beta \in [1,2) $ のもとで、カーネルに基づく推定量の漸近的最小最大性および効率性を確立する。
• 最小最大リスクの鋭い下界および上界を導出し、収束速度の最適性を確認する。
• 特に、パラメトリックなノイズ分布の仮定や再帰的推定手法を回避することで、先行研究に比べて仮定を弱める。
• インジケータカーネルと最適帯域幅選択を用いた場合、提案された推定量が漸近的に効率的であることを示す。

提案手法

• 帯域幅 $ h = n^{-1/(2\beta+1)} $ および切断閾値 $ d = \kappa_n n h $（$ \kappa_n \to 0 $）を用いて、カーネル関数 $ Q $ を用いた修正カーネル推定量 $ \hat{S}_n(z_0) $ を構築する。
• 局所加重法として $ Q((x_k - z_0)/h) $ を用い、分母が小さい場合の不安定性を制御するため、$ A_n \geq d $ の切断条件を導入する。
• 理論的分析には、滑らかさとノイズの挙動をモデル化するための安定な局所 Hölder 現象および弱安定な局所 Hölder 現象を用いる。
• カーネル関数は $ \int_{-1}^1 Q(z) dz > 0 $ および $ \int_{-1}^1 z Q(z) dz = 0 $ を満たし、バイアスキャンセリングを保証する。
• 最小最大性は、$ n^{\beta/(2\beta+1)} $ で正規化された最小最大リスクに対して正の下界を導出することで確立する。
• 効率性は、$ Q $ がインジケータカーネル $ \mathbf{1}_{[-1,1]} $ の場合に、最小最大リスクの上界が鋭い下界と一致することを示すことにより証明する。

実験結果

リサーチクエスチョン

• RQ1 ノイズ分布が未知で、Hölder連続性 $ \beta \in [1,2) $ が既知であるもとで、固定点における自己回帰係数関数 $ S $ の非パラメトリック推定の最適収束速度は何か？
• RQ2 これらの条件下で、カーネルに基づく推定量が漸近的最小最大性および効率性を達成できるか？
• RQ3 カーネル関数および帯域幅の選択が、最小最大リスクおよび収束速度にどのように影響するか？
• RQ4 この非パラメトリック自己回帰設定における最小最大リスクの鋭い下界および上界は何か？
• RQ5 インジケータカーネルと最適帯域幅 $ h = n^{-1/(2\beta+1)} $ を用いた場合、提案された推定量は効率的か？

主な発見

• 固定点 $ z_0 $ における $ S(z_0) $ の推定の最小最大リスクは、正の定数を乗じた $ n^{-\beta/(2\beta+1)} $ で下界から抑えられ、最適収束速度が確立される。
• 帯域幅 $ h = n^{-1/(2\beta+1)} $ および $ d = \kappa_n n h $ を用いた提案されたカーネル推定量は、漸近的にこの最適速度を達成する。
• インジケータカーネル $ Q = \mathbf{1}_{[-1,1]} $ の場合、最小最大リスクの上界が鋭い下界と一致し、漸近的効率性が証明される。
• パラメトリックなノイズモデルや再帰的推定手法を必要としないより弱い仮定のもとでも、推定量は一貫性および効率性を保つ。
• モーメント不等式および集中不等式を用いた理論的境界の導出が行われ、正規化量 $ A_n = \sum Q(u_k) y_{k-1}^2 $ のきめ細かな制御がなされた。
• ノイズ密度 $ p $ が未知であっても、有界モーメントを持つクラス $ \mathcal{P} $ に属する限り、収束速度 $ n^{-\beta/(2\beta+1)} $ は最適である。