[論文レビュー] Hypoelliptic diffusions: discretization, filtering and inference from complete and partial observations

Susanne Ditlevsen, Adeline Samson|arXiv (Cornell University)|Jul 13, 2017

Complex Systems and Time Series Analysis参考文献 37被引用数 7

ひとこと要約

本稿では、異なる時間スケールで作用する退化したノイズを特徴とする部分観測可能なハイポエリプティック拡散過程におけるパラメータ推定のための高次離散化スキームを提案する。この近似を確率的近似期待最大化（SAEM）アルゴリズムに組み込むことで、完全観測でない場合でも一貫性があり、漸近的に正規分布に従う推定が可能となり、ハーモニックオシレーター、フィッツフック＝ナグumo、シナプス抑制／興奮モデルを含むシミュレートされたモデルにおいて、標準的なオイラー法や対数尤度推定法を凌駕する性能を示す。

ABSTRACT

The statistical problem of parameter estimation in partially observed hypoelliptic diffusion processes is naturally occurring in many applications. However, due to the noise structure, where the noise components of the different coordinates of the multi-dimensional process operate on different time scales, standard inference tools are ill conditioned. In this paper, we propose to use a higher order scheme to approximate the likelihood, such that the different time scales are appropriately accounted for. We show consistency and asymptotic normality with non-typical convergence rates. When only partial observations are available, we embed the approximation into a filtering algorithm for the unobserved coordinates, and use this as a building block in a Stochastic Approximation Expectation Maximization algorithm. We illustrate on simulated data from three models; the Harmonic Oscillator, the FitzHugh-Nagumo model used to model the membrane potential evolution in neuroscience, and the Synaptic Inhibition and Excitation model used for determination of neuronal synaptic input.

研究の動機と目的

• 異なる時間スケールで作用する退化したノイズのため、標準的な推定手法が不安定になるハイポエリプティック拡散モデルにおける問題に対処すること。
• 尤度近似においてマルチスケールダイナミクスを適切に扱う高次離散化スキームの開発。
• 特に一部の変数しか観測されない現実的状況においても、信頼性の高いパラメータ推定を可能にすること。
• 高次近似を確率的近似期待最大化（SAEM）アルゴリズムに統合し、部分観測下での効率的な推定を実現すること。
• 3つの生物学的・物理的に関連性のあるモデル（ハーモニックオシレーター、フィッツフック＝ナグumo、シナプス抑制／興奮モデル）における手法の妥当性を検証すること。

提案手法

• ハイポエリプティックスデの遷移密度をより正確に近似する高次数値スキームを開発し、オイラー＝マルヤムのスキームに比べてノイズ成分の異なる時間スケールをより的確に捉える。
• 尤度近似をフィルタリングフレームワークに埋め込み、観測が部分的である場合の未観測成分の推定を可能にする。
• 確率的近似期待最大化（SAEM）アルゴリズムを用いて最尤推定を実行し、状態推定には粒子フィルタリング（SMC）を採用。
• ノイズが速度または入力成分にのみ作用するが、位置または膜電位は決定論的に変化するハイポエリプティックスデの構造を活用する。
• ノイズまたはドリフトに未知パラメータが存在する場合、SAEMアルゴリズムは確率的近似とマルコフチェインモンテカルロサンプリングを繰り返し用いて推定値を改善する。
• 3つのモデルにおけるシミュレートデータを用いて手法の妥当性を検証し、オイラー法に基づく対数尤度推定法や標準的なフィルタリング手法と性能を比較。

実験結果

リサーチクエスチョン

• RQ1 退化したノイズとマルチスケールダイナミクスを有するハイポエリプティック拡散過程において、高次離散化スキームが尤度近似を改善できるか。
• RQ2 部分観測下で、既存の対数尤度ベースまたはオイラー法ベースの手法と比較して、本手法のパラメータ推定性能はいかがなものか。
• RQ3 粒子フィルタリングを組み合わせたSAEMアルゴリズムは、未知パラメータを有するハイポエリプティックモデルにおいて、一貫性があり、漸近的に正規分布に従う推定を可能にするか。
• RQ4 ハイポエリプティック構造下での推定量の収束レートは何か。標準的な楕円型ケースとはどのように異なるか。
• RQ5 部分観測下でも、シナプス感受性やノイズ強度といったパラメータを信頼性を持って推定できるか。

主な発見

• 完全観測下では、提案された高次対数尤度推定法がオイラー法に基づく推定法を上回り、特にハーモニックオシレーターのγやαといったパラメータにおいて、バイアスと分散が低くなる。
• 部分観測下では、粒子フィルタリングを用いたSAEMアルゴリズムが一貫性のある推定を達成し、γの平均推定値は1.523（標準誤差0.130）、αは0.822（標準誤差0.110）となり、真値（1.5と0.8）に近い。
• εが未知であった場合、SAEM法は平均推定値0.105（標準誤差0.006）を達成し、他の手法が失敗する状況でもノイズパラメータを適切に推定できることを示した。
• シナプス抑制／興奮モデルでは、SAEMアルゴリズムがτ_Eを0.486（標準誤差0.031）およびτ_Iを0.990（標準誤差0.180）と推定し、抑制性パラメータ（例：g_Iは8.414、標準誤差0.250）ではより高い不確実性を示した。
• 非典型的な収束レートを伴う漸近的正規性を達成し、ハイポエリプティック構造下での理論的一貫性を確認した。
• ノイズ強度εが未知の場合、SAEMアルゴリズムが唯一、その推定を可能とした。これは、複雑で部分観測された系において、本手法の頑健性を示している。