[論文レビュー] On Parameter Estimation of the Hidden Gaussian Process in perturbed SDE

Yury A. Kutoyants, Li Zhou|arXiv (Cornell University)|Apr 22, 2019

Target Tracking and Data Fusion in Sensor Networks参考文献 20被引用数 4

ひとこと要約

本稿では、摂動付き線形SDE系における隠れたガウス過程のパラメータの1段階MLEプロセス推定量を提案する。カルマン＝ブチィフィルタリングと微小ノイズ漸近論を活用し、MLEと同等の漸近的効率性、正規性、一貫性を達成するが、計算がより単純である。この推定量は初期観測値からの事前推定量と、スコア関数を用いた1回の補正ステップに依存する。

ABSTRACT

We present results on parameter estimation and non-parameter estimation of the linear partially observed Gaussian system of stochastic differential equations. We propose new one-step estimators which have the same asymptotic properties as the MLE, but much more simple to calculate, the estimators are so-called "estimator-processes". The construction of the estimators is based on the equations of Kalman-Bucy filtration and the asymptotic corresponds to the small noises in the observations and state (hidden process) equations. We propose conditions which provide the consistency and asymptotic normality and asymptotic efficiency of the estimators.

研究の動機と目的

• 部分的に観測された線形SDEに隠れたガウス過程を含む場合に、MLEと同等の漸近的性質を有する計算的に効率的な推定量を開発すること。
• 標準MELおよびベイズ推定量の高い計算コストを解消すること。これらはすべてのパrameter値に対して複雑な尤度比関数を解く必要がある。
• 時間的に変化するパラメータ推定量を提供する推定量プロセスを構築すること。微小ノイズ条件下で漸近的効率性と正規性が保証される。
• 提案された1段階推定量の一致性、漸近的正規性、および効率性の十分条件を微小ノイズ極限において確立すること。

提案手法

• 2段階的手順を用いる：まず、$[0, \tau_{\varepsilon}]$ という小さな初期区間から、$\tau_{\varepsilon} = \varepsilon^{\delta}$、$\delta \in (0, 2/3)$ として、事前推定量 $\bar{\vartheta}_{\tau_{\varepsilon}}$ を得る。
• 区間 $[\tau_{\varepsilon}, t]$ におけるスコア関数を用いて、事前推定量を補正することで1段階MLE $\vartheta_{t,\varepsilon}^{*}$ を構築する。
• スコア関数に不可欠な条件付き期待値 $m(\vartheta, t)$ および条件付き分散 $\gamma(\vartheta, t)$ を計算するために、カルマン＝ブチィフィルタリング方程式を用いる。
• 1段階MEL構造を適用する：$\vartheta_{t,\varepsilon}^{*} = \bar{\vartheta}_{\tau_{\varepsilon}} + I_{\tau_{\varepsilon}}^{-1} \int_{\tau_{\varepsilon}}^{t} \frac{\dot{M}}{\sigma^2} \left[ dX_s - f m ds \right]$、ここで $M$ はスコア関数を表す。
• 推定量が $\varepsilon \to 0$ のとき、MELと同様に漸近的に効率的かつ正規分布に従い、分散が $I(\vartheta_0)^{-1}$ となるように保証する。
• 正則でない場合に対処するため、観測区間を分割し、$|\dot{f}(\vartheta,0)| > 0$ または $|\dot{a}(\vartheta,0)| > 0$ を満たす部分区間でフィルタリングを適用する。

実験結果

リサーチクエスチョン

• RQ1 部分的に観測された線形SDEに隠れたガウス過程を含む場合に、MELと同等の漸近的性質を有する計算的に効率的な推定量を構築できるか？
• RQ2 微小ノイズ極限において、1段階MELプロセス推定量の一致性および漸近的正規性を保証する条件は何か？
• RQ3 初期導関数条件 $|\dot{f}(\vartheta,0)| > 0$ または $|\dot{a}(\vartheta,0)| > 0$ が満たされない場合、1段階MELはどのように適合可能か？
• RQ4 推定量の初期推定誤差を最小化するための最適な学習区間長 $\tau_{\varepsilon} = \varepsilon^{\delta}$ の選択は何か？
• RQ5 1段階MELプロセスは、多変量パラメータおよび観測プロセスに拡張可能か？

主な発見

• 1段階MELプロセス $\vartheta_{t,\varepsilon}^{*}$ は、MELと同等の漸近的分布に従う：$\varepsilon \to 0$ のとき $\frac{\vartheta_{t,\varepsilon}^{*} - \vartheta_0}{\varepsilon} \Rightarrow \mathcal{N}(0, I(\vartheta_0)^{-1})$。
• 事前推定量 $\bar{\vartheta}_{\tau_{\varepsilon}}$ は $\delta \in (0, 2/3)$ のとき一貫性を有し、平均二乗誤差 $C(\varepsilon^{2\delta} + \varepsilon^{2-3\delta})$ を最小化するための最適な $\delta = 2/5$ を有する。
• 推定量は漸近的に効率的であり、Cramér-Rao下界に一致し、MELと同様のフィッシャー情報構造を継承する。
• 推定量の構築は、$m(\vartheta,t)$ および $\gamma(\vartheta,t)$ のカルマン＝ブチィフィルタリング方程式に依存しており、スコア関数の計算を容易にする。
• $|\dot{f}(\vartheta,0)| = 0$ かつ $|\dot{a}(\vartheta,0)| = 0$ の場合、区間を分割し、導関数条件を満たす部分区間でフィルタリングを適用することで、手法は適応可能である。
• 多変量 $\vartheta$ の場合、$k \geq d$ 個の観測プロセスが利用可能であれば、同定可能性と一貫性を保証するため、手法は拡張可能である。