[論文レビュー] Moment convergence in regularized estimations

H. Masuda, Yusuke Shimizu|arXiv (Cornell University)|Jun 26, 2014

Statistical Methods and Inference被引用数 3

ひとこと要約

本稿は、微分不能かつ局所的に二次的でない統計的確率場において、正則化M推定量のモーメント収束を確立し、 Yoshida (2011) の多項式型大偏差枠組みを複数および混合レート設定に拡張する。主な貢献は、広範なクラスの正則化推定量に対して強い収束モードを確立することであり、これは高周波度エルゴディック拡散過程への応用を含む。

ABSTRACT

In $M$-estimation under standard asymptotics, the weak convergence combined with the polynomial type large deviation estimate of the associated statistical random field Yoshida (2011) provides us with not only the asymptotic distribution of the associated $M$-estimator but also the convergence of its moments, the latter playing an important role in theoretical statistics. In this paper, we study the above program for statistical random fields of multiple and also possibly mixed-rates type in the sense of Radchenko (2008) where the associated statistical random fields may be non-differentiable and may fail to be locally asymptotically quadratic. Consequently, a very strong mode of convergence of a wide range of regularized $M$-estimators is ensured. The results are applied to regularized estimation of an ergodic diffusion observed at high frequency.

研究の動機と目的

• 標準M推定量からのモーメント収束結果を、複数または混合レートの収束を示す統計的確率場へ拡張すること。
• 微分不能かつ局所的に二次的でない確率場の課題に取り組み、古典的漸近的手法が無効となる状況を扱うこと。
• 最小限の滑らかさ仮定の下で、正則化M推定量の強い収束性を保証すること。
• 連続時間統計における重要な統計モデルである高周波度エルゴディック拡散過程の観測に、理論枠組みを応用すること。

提案手法

• 複数および混合レートの統計的確率場に、 Yoshida (2011) の多項式型大偏差推定を適応する。
• 微分可能性や局所的二次性を要件としない、モーメント収束の一般化枠組みを導入する。
• 確率場の収束レートの構造を活用して、正則化M推定量への枠組みの適用を行う。
• エルゴディック拡散過程としての元の確率過程の正則性を用いて、高周波度サンプリング下でのモーメント収束の有効性を保証する。
• 混合レートに特化した確率積分計算と大偏差技術の組み合わせにより、モーメント収束を確立する。
• 漸近理論と非漸近的偏差バウンドを組み合わせることで、弱収束仮定の下でのモーメント収束結果を導出する。

実験結果

リサーチクエスチョン

• RQ1 統計的確率場が微分不能である場合でも、正則化M推定量のモーメント収束を確立できるか？
• RQ2 複数または混合収束レートの存在が、M推定量のモーメント収束にどのように影響するか？
• RQ3 多項式型大偏差枠組みを、局所的に二次的でなく、微分可能でない設定へどれほど拡張できるか？
• RQ4 非標準的漸近的設定下で、正則化推定におけるモーメントの強い収束を保証する条件は何か？
• RQ5 この枠組みは、高周波度エルゴディック拡散過程の観測にどのように応用できるか？

主な発見

• 統計的確率場が微分不能であり、局所的漸近的に二次的でない場合でも、正則化M推定量のモーメント収束が確立される。
• 混合レートスケーリング下で、広範なクラスの正則化推定量に対して非常に強い収束モード—モーメント収束—を保証する。
• Yoshida (2011) のモーメント収束理論が、不規則的または滑らかでない推定関数を伴うより一般で現実的な統計モデルへ拡張される。
• スコア関数が滑らかでないか、局所的に二次的でない場合でも、高周波度エルゴディック拡散過程の観測に本手法が成功裏に適用可能である。
• 混合レート設定における多項式型大偏差推定の頑健性のおかげで、弱い正則性条件のもとでもモーメント収束が保証される。
• 理論的枠組みは、特に高周波度統計における非正則統計モデルにおける高次漸近的解析の基盤を提供する。