[論文レビュー] hmmTMB: hidden Markov models with flexible covariate effects in R

Théo Michelot|arXiv (Cornell University)|Nov 25, 2022

Bayesian Methods and Mixture Models被引用数 7

ひとこと要約

この論文は、非線形効果のためのペナルティスプラインと個体間異質性のためのランダム効果を用いて、遷移パラメータおよび観測パラメータの両方に共変量効果を組み込むことが可能な柔軟な隠れマルコフモデル（HMM）を可能にするRパッケージhmmTMBを紹介する。主な貢献は、計算が高速でモジュラーなフレームワークであり、複雑なHMMのための自動平滑化選択と、多変量、連続、離散、およびバイナリ応答のサポートを備えている。

ABSTRACT

Hidden Markov models (HMMs) are widely applied in studies where a discrete-valued process of interest is observed indirectly. They have for example been used to model behaviour from human and animal tracking data, disease status from medical data, and financial market volatility from stock prices. The model has two main sets of parameters: transition probabilities, which drive the latent state process, and observation parameters, which characterise the state-dependent distributions of observed variables. One particularly useful extension of HMMs is the inclusion of covariates on those parameters, to investigate the drivers of state transitions or to implement Markov-switching regression models. We present the new R package hmmTMB for HMM analyses, with flexible covariate models in both the hidden state and observation parameters. In particular, non-linear effects are implemented using penalised splines, including multiple univariate and multivariate splines, with automatic smoothness selection. The package allows for various random effect formulations (including random intercepts and slopes), to capture between-group heterogeneity. hmmTMB can be applied to multivariate observations, and it accommodates various types of response data, including continuous (bounded or not), discrete, and binary variables. Parameter constraints can be used to implement non-standard dependence structures, such as semi-Markov, higher-order Markov, and autoregressive models. Here, we summarise the relevant statistical methodology, we describe the structure of the package, and we present an example analysis of animal tracking data to showcase the workflow of the package.

研究の動機と目的

• 隠れマルコフモデル（HMM）における共変量効果の柔軟なモデリング、特に非線形関係と個体間異質性の必要性に対処すること。
• 標準的なHMMを拡張し、共変量が遷移確率および観測分布パラメータの両方に影響を与えるようにすること。
• 混合効果および準マルコフ構造を含む複雑なモデル定式化をサポートする、計算が高速でモジュラーなRパッケージを提供すること。
• 尤度に基づく推論フレームワーク内でのペナルティスプラインによる自動平滑化選択を用いて、非線形効果の柔軟なモデリングを可能にすること。
• 連続、バイナリ、離散の応答タイプと、パラメータ制約による非マルコフ過程（例：高次マルコフ、準マルコフ）の複雑な依存構造をサポートすること。

提案手法

• 固定効果およびランダム効果を用いた混合線形予測子モデルにより、遷移および観測パラメータをパrameter化する：$\eta = \mathbf{X}\bm{\alpha} + \mathbf{R}\bm{\beta}$, $\bm{\beta} \sim N(\mathbf{0}, \mathbf{Q})$。
• ラプラス近似を用いた自動平滑化選択を伴う、非線形共変量効果のペナルティスプライン（P-splines）の実装。
• TMB（Template Model Builder）フレームワークを活用し、ラプラス近似による周辺尤度の高速計算を実現。
• ガウス分布、二項分布、ポisson分布など、さまざまな応答分布をサポートし、パラメータ制約を用いて非マルコフ過程（例：高次マルコフ、準マルコフ）をモデル化可能。
• モデルの適合、推論、可視化のためのツールを提供し、遷移確率、状態確率、ランダム効果の信頼区間を含むプロット関数を備える。
• 尤度評価には前方アルゴリズムを用い、尤度を数値的に最適化してモデルパラメータを推定。

実験結果

リサーチクエスチョン

• RQ1 共変量が遷移および観測パラメータに非線形効果を及ぼすHMMを、どのように拡張できるか？
• RQ2 縦断的データにおける個体間異質性が、状態遷移ダイナミクスに与える影響は何か？
• RQ3 自動平滑化選択を伴うペナルティスプラインは、柔軟な非線形モデリングのためのHMMに効果的に統合可能か？
• RQ4 一貫したHMMフレームワーク内で、複雑な依存構造（例：準マルコフ、高次マルコフ）をどのように実装できるか？
• RQ5 ランダム効果およびスプラインを含む複雑なHMMにおいて、ラプラス近似の性能と信頼性はいかがなものか？

主な発見

• パッケージは、ペトリルが中心地からの距離に応じて「移動」状態から「採餌」状態への遷移確率をモデル化し、1000kmを超えると急激に低下することを示した。
• 遷移S3→S2の個体特有のランダム切片の標準偏差は0.414と推定され、状態遷移行動における顕著な個体間変動が示された。
• 「移動」状態にいる確率は、中心地からの距離が増加するにつれて有意に低下し、標的的採餌行動の可能性を示唆した。
• 距離が遷移確率に与える滑らかな効果は95％信頼区間とともに推定され、ペナルティスプラインによる柔軟でデータ駆動のモデリングの有効性が示された。
• 遷移S2→S3のランダム効果の標準偏差は、切片が0.466、スプラインが0.123であり、この遷移における強い個体レベルのばらつきが示された。
• このパッケージは、多変量応答およびパラメータ制約を含む複雑なHMMについても、実世界の生態学的および医療分野のデータに適した計算性能を備えており、効率的な推論を可能にした。