[論文レビュー] Static Parameter Estimation for ABC Approximations of Hidden Markov Models

Elena Ehrlich, Ajay Jasra+1 more|arXiv (Cornell University)|Oct 17, 2012

Target Tracking and Data Fusion in Sensor Networks参考文献 17被引用数 8

ひとこと要約

本稿では、観測密度が解析的に扱いにくい場合の隠れマルコフモデル（HMM）におけるパラメータ推定のための新しいオンライン推定手法を提案する。この手法は、逐次モンテカルロ（SMC）を用いた近似ベイズ推定（ABC）を用い、尤度関数とその勾配におけるバイアスが 𝒪(𝑛𝜀) であることを理論的に示した。さらに、バイアスをパrameter 𝜀 で制御可能な、SMCに基づく同時摂動確率的近似（SPSA）アルゴリズムを構築し、計算コストを抑えたリアルタイム推定を実現した。

ABSTRACT

In this article we focus on Maximum Likelihood estimation (MLE) for the static parameters of hidden Markov models (HMMs). We will consider the case where one cannot or does not want to compute the conditional likelihood density of the observation given the hidden state because of increased computational complexity or analytical intractability. Instead we will assume that one may obtain samples from this conditional likelihood and hence use approximate Bayesian computation (ABC) approximations of the original HMM. ABC approximations are biased, but the bias can be controlled to arbitrary precision via a parameter ε>0; the bias typically goes to zero as ε\searrow 0. We first establish that the bias in the log-likelihood and gradient of the log-likelihood of the ABC approximation, for a fixed batch of data, is no worse than \mathcal{O}(nε), n being the number of data; hence, for computational reasons, one might expect reasonable parameter estimates using such an ABC approximation. Turning to the computational problem of estimating $θ$, we propose, using the ABC-sequential Monte Carlo (SMC) algorithm in Jasra et al. (2012), an approach based upon simultaneous perturbation stochastic approximation (SPSA). Our method is investigated on two numerical examples

研究の動機と目的

• 観測密度が解析的に扱いにくいか、計算的に評価が困難な場合のHMMにおける静的パラメータ推定の課題に対処すること。
• 固定データセットにおけるABC近似が尤度関数とその勾配に及ぼすバイアスを分析すること。
• ABCと逐次モンテカルロ（SMC）を用いた、計算効率が高くオンライン推定が可能なHMMパラメータ推定手法を開発すること。
• ABC近似におけるバイアスが、許容誤差パrameter 𝜀 を用いて制御可能であり、収束に関する理論的保証が得られることを保証すること。

提案手法

• 観測密度 𝑔𝜃(𝑦𝑛|𝑥𝑛) の明示的評価を回避するため、近似ベイズ推定（ABC）を用いる。
• ABCを用いた逐次モンテカルロ（SMC）を適用し、ABC近似下での尤度関数とその勾配を逐次的に近似する。
• 収束保証を備えた同時摂動確率的近似（SPSA）アルゴリズムを用いて、オンラインパラメータ推定を実行する。
• ABC近似された対数尤度関数とその勾配におけるバイアスを分析し、サイズ 𝑛 の固定データバッチに対して 𝒪(𝑛𝜀) の上界が成り立つことを証明する。
• 測度の粒子ベース表現と摂動に基づく勾配推定を用いて、明示的な尤度評価なしにオンライン学習を可能にする。
• 真のフィルタとABC近似フィルタの差、およびその微分に関する理論的バウンディングを確立し、安定性と収束性を保証する。

実験結果

リサーチクエスチョン

• RQ1 HMMにおけるABC近似を用いた場合、対数尤度関数とその勾配に生じるバイアスの大きさはどの程度か？
• RQ2 観測密度が扱いにくい場合に、HMMのオンラインパラメータ推定手法を開発できるか？
• RQ3 ABC近似におけるバイアスを制御することで、一貫性のあるパラメータ推定を実現できるか？
• RQ4 提案されたSMC-SPSAアルゴリズムの計算コストと収束特性は、オンラインHMMパラメータ推定においてどのように振る舞うか？

主な発見

• 固定データバッチサイズ 𝑛 に対して、ABC近似された対数尤度関数とその勾配におけるバイアスは 𝒪(𝑛𝜀) で有界であり、𝜀→0 のときバイアスが制御可能であることが保証される。
• 提案されたSMC-SPSAアルゴリズムにより、ABC近似下でのHMMパラメータ推定が、計算コスト 𝒪(𝑁) （𝑁 は粒子数）でリアルタイムに実行可能である。
• 理論的分析により、真のフィルタとABC近似フィルタの差が、初期測度とパラメータに一様に、定数×𝜀 で有界であることが確認された。
• 本手法は、扱いにくい観測密度に対して頑健であり、標準的なSMC手法が失敗するような複雑なHMMにおいても、尤度フリー推論を可能にする。
• 2つの数値例を用いた実験的検証により、本手法の有効性と、𝜀 や粒子数の変動に応じた収束特性が確認された。