[論文レビュー] On Limiting Likelihood Ratio Processes of some Change-Point Type Statistical Models

Sergueï Dachian|arXiv (Cornell University)|Jul 2, 2009

Statistical Methods and Inference参考文献 19被引用数 15

ひとこと要約

本稿は、変化点モデルにおける極限尤度比過程を研究し、小さなパラメータ値に対してポアソン駆動の過程がブラウン運動駆動の過程に近似できることを示している。その結果、このようなモデルにおけるベイズ推定量および最尤推定量の極限分散および漸近的効率性は、より単純なブラウン運動ベースの枠組みを用いて近似可能である。数値シミュレーションにより、パラメータが0または無限大に近づく際に、これらの量が既知の定数に収束することが確認されている。

ABSTRACT

Different change-point type models encountered in statistical inference for stochastic processes give rise to different limiting likelihood ratio processes. In this paper we consider two such likelihood ratios. The first one is an exponential functional of a two-sided Poisson process driven by some parameter, while the second one is an exponential functional of a two-sided Brownian motion. We establish that for sufficiently small values of the parameter, the Poisson type likelihood ratio can be approximated by the Brownian type one. As a consequence, several statistically interesting quantities (such as limiting variances of different estimators) related to the first likelihood ratio can also be approximated by those related to the second one. Finally, we discuss the asymptotics of the large values of the parameter and illustrate the results by numerical simulations.

研究の動機と目的

• 非正規の変化点モデルにおける尤度比過程の極限的挙動を分析すること、特に独立同一分布の標本から生じる不連続密度関数を伴うモデルを対象とすること。
• 小さなパrameter値において、ポアソン駆動とブラウン運動駆動の極限尤度比過程との間の関係を確立すること。
• ベイズ推定量および最尤推定量の主要な統計的量（極限分散や漸近的効率性など）を、ブラウン運動近似を用いて近似すること。
• パラメータが0または無限大に近づく際のこれらの推定量の漸近的挙動を、数値シミュレーションを用いて調査すること。
• 10^7回の反復を各パラメータ値に対して行う広範なモンテカルロシミュレーションを通じて、理論的近似の妥当性を検証すること。

提案手法

• パラメータに依存する強度を持つ二重側のポアソン過程の指数的関数として、変化点モデルの漸近的尤度比を表す極限尤度比過程 $ Z_{\rho}(x) $ を導出する。
• ベイズ推定量および最尤推定量の極限分布に対応する、$ Z_{\rho}(x) $ の平均 $ \theta_{\rho} $ およびモード $ \rho_{\rho} $ を定義する。
• 小さな $ \rho $ に対して、ポアソンベースの過程 $ Z_{\rho} $ が弱収束してブラウン運動ベースの過程に近づくことを確立し、極限分散 $ B_{\rho} = \mathbb{E}[\zeta_{\rho}^2] $ および $ M_{\rho} = \mathbb{E}[\xi_{\rho}^2] $ の近似が可能になることを示す。
• 大偏差技法およびモーメントバウンドを用いて確率的支配を証明し、$ \rho \to 0 $ のとき、ポアソン過程の裾確率がブラウン過程のそれより大きな要因で上回るが、その要因は $ \rho \to 0 $ で消えることを示す。
• 10^7回の反復を用いた数値シミュレーションにより、$ B_{\rho} $、$ M_{\rho} $、および $ E_{\rho} = B_{\rho}/M_{\rho} $ を推定し、漸近的近似の妥当性を検証する。
• 再生理論およびポアソン過程の性質（特に $ \sup_t (-\Pi(t) + t) $ の分布）を応用し、指数モーメントのバウンドを確立し、近似を支援する。

実験結果

リサーチクエスチョン

• RQ1 小さなパラメータ値において、変化点モデルにおけるポアソン駆動の極限尤度比過程は、ブラウン運動駆動の過程に近似可能か？
• RQ2 ベイズ推定量および最尤推定量の極限分散 $ B_{\rho} $ および $ M_{\rho} $ は何か？また、$ \rho \to 0 $ または $ \rho \to \infty $ のとき、それぞれの挙動はいかなるものか？
• RQ3 最尤推定量の漸近的効率性 $ E_{\rho} = B_{\rho}/M_{\rho} $ は $ \rho $ に依存してどのように変化するか？その極限値は何か？
• RQ4 数値シミュレーションは、$ B_{\rho} $、$ M_{\rho} $、および $ E_{\rho} $ の理論的漸近的近似をどの程度確認できるか？
• RQ5 小さな $ \rho $ の範囲において、ポアソン過程とブラウン過程の裾の挙動は比較可能か？その結果、統計的量の近似が妥当であると見なせるか？

主な発見

• 小さな $ \rho $ に対して、ポアソンベースの尤度比過程 $ Z_{\rho} $ はブラウン運動ベースの過程によりよく近似可能であり、より単純な解析的手法の使用が可能になる。
• $ \rho \to 0 $ のとき、ベイズ推定量の極限分散は $ B_{\rho} \sim B_0 / \rho^2 $ と表され、$ B_0 = 16\zeta(3) \approx 19.2329 $ である。同様に、最尤推定量の分散は $ M_{\rho} \sim M_0 / \rho^2 $ と表され、$ M_0 = 26 $ である。
• $ \rho \to \infty $ のとき、$ B_{\rho} \to 1 $、$ M_{\rho} \to 2 $、漸近的効率性 $ E_{\rho} \to 0.5 $ となる。これは、$ \rho $ が大きい場合、最尤推定量の効率性が低下することを示している。
• 漸近的効率性 $ E_{\rho} $ は、$ E_0 \approx 0.7397 $（$ \rho \to 0 $ 時）から $ E_\infty = 0.5 $（$ \rho \to \infty $ 時）の間で有界であり、最尤推定量が常にベイズ推定量より非効率であることを示唆している。
• $ 10^7 $ 回の反復を用いた数値シミュレーションにより、理論的漸近的挙動が確認された。$ \rho \to 0 $ のとき $ \rho^2 B_{\rho} \to B_0 $ および $ \rho^2 M_{\rho} \to M_0 $ が成り立ち、$ \rho \to \infty $ のとき $ B_{\rho} \to 1 $、$ M_{\rho} \to 2 $ となることが示された。
• ポアソン過程の裾確率は、$ \rho \to 0 $ のとき指数関数的に減少する要因により、ブラウン過程のそれより大きくなるが、その要因は $ \rho \to 0 $ で消える。この結果、近似の妥当性が支持される。