[論文レビュー] An overview of latent Markov models for longitudinal categorical data

Francesco Bartolucci, Alessio Farcomeni+1 more|arXiv (Cornell University)|Mar 14, 2010

Bayesian Methods and Mixture Models参考文献 50被引用数 20

ひとこと要約

本稿は、潜在的マーケット（LM）モデルについて、縦断的カテゴリカルデータを体系的に概説する。潜在状態は1次マルコフ連鎖として時間的に変化し、観測された応答は潜在状態を条件とする独立性を仮定する。著者らは、前向き後向き再帰を用いたEMアルゴリズムによる最尤推定の詳細を提示し、モデルの単純化と仮説検定のための制約付きモデルを検討し、共変数や多層構造を含むフレームワークへの拡張を提示。社会経済的および健康分野の研究への応用を示している。

ABSTRACT

We provide a comprehensive overview of latent Markov (LM) models for the analysis of longitudinal categorical data. The main assumption behind these models is that the response variables are conditionally independent given a latent process which follows a first-order Markov chain. We first illustrate the basic LM model in which the conditional distribution of each response variable given the corresponding latent variable and the initial and transition probabilities of the latent process are unconstrained. For this model we also illustrate in detail maximum likelihood estimation through the Expectation-Maximization algorithm, which may be efficiently implemented by recursions known in the hidden Markov literature. We then illustrate several constrained versions of the basic LM model, which make the model more parsimonious and allow us to include and test hypotheses of interest. These constraints may be put on the conditional distribution of the response variables given the latent process (measurement model) or on the distribution of the latent process (latent model). We also deal with extensions of LM model for the inclusion of individual covariates and to multilevel data. Covariates may affect the measurement or the latent model; we discuss the implications of these two different approaches according to the context of application. Finally, we outline methods for obtaining standard errors for the parameter estimates, for selecting the number of states and for path prediction. Models and related inference are illustrated by the description of relevant socio-economic applications available in the literature.

研究の動機と目的

• 未観測の異質性を扱うための縦断的カテゴリカルデータを分析する潜在的マーケット（LM）モデルの体系的レビューを提供すること。
• 観測されたカテゴリカル応答を説明する有限状態のマルコフ連鎖としての、時間的経過における未観測個体的トレースをモデル化する課題に取り組むこと。
• 基本的なLMモデルに個体レベルの共変数と多層構造を組み込み、複雑なデータをより豊かにモデル化すること。
• 特にEMアルゴリズムと尤度比検定を用いた、モデル推定、推論、選択に関する実用的ガイダンスを提供すること。
• 高次マルコフ連鎖、欠損データ機構、多次元応答構造といった、今後の研究の方向性を強調すること。

提案手法

• 応答変数を、潜在的一階マルコフ連鎖を条件とする独立性（局所的独立性）を仮定してモデル化する。
• 計算負荷を軽減するため、前向き後向き再帰を用いた期待値最大化（EM）アルゴリズムを用いて最尤推定を実装する。
• 測定モデル（例：ラーシュ型パrameterization）および潜在モデル（例：遷移確率の等価制約）に制約を適用し、モデルの単純化を図る。
• 尤度比（LR）統計量を用いて制約を検定し、遷移行列の制約を検定する際には非標準的漸近分布（カイバー二乗分布）を考慮する。
• 個体の共変数を測定モデル（応答確率に影響）または潜在モデル（初期確率および遷移確率に影響）に統合する。
• クラスタ固有の潜在過程を導入し、ネストされたマルコフ連鎖を用いて多層データにモデルを拡張する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして潜在的マーケットモデルが、1次マルコフ連鎖を用いて縦断的カテゴリカルデータにおける未観測の異質性を効果的にモデル化できるか？
• RQ2 特に繰り返しのあるカテゴリカル応答を含む高次元設定において、LMモデルの推定技術として最も効果的な手法は何か？
• RQ3 測定モデルまたは潜在モデルに制約を適用することで、モデルの解釈可能性が向上し、形式的な仮説検定が可能になるメカニズムは何か？
• RQ4 個体の共変数をLMモデルにどのように意味的に組み込むことができるか？また、測定モデルと潜在モデルに配置する場合の意味的・解釈的違いは何か？
• RQ5 LMモデルにおいて欠損応答の処理と高次依存構造のモデル化に関する主な課題と解決策は何か？

主な発見

• 前向き後向き再帰を用いたEMアルゴリズムにより、潜在的マーケットモデルにおける最尤推定が著しく計算複雑性を低減して効率的に行える。
• 遷移行列に制約を加えると、しばしば非標準的漸近分布（例：カイバー二乗分布）が生じ、尤度比検定のための注意深い推論手順が求められる。
• 測定モデルにおけるラーシュ型パrameterizationにより、潜在状態を能力や傾向の水準として解釈可能にし、モデルの解釈性が向上する。
• 共変数は2通りの方法で組み込むことができる：応答確率に影響を与える（測定モデル）か、初期確率および遷移確率に影響を与える（潜在モデル）か。それぞれ異なる実質的解釈を持つ。
• 応用事例では、国立学校に通う生徒は、非国立学校に通う生徒（A: 79%, D: 21%）と比較して、より多様な潜在的能力プロファイル（A: 32%, B: 23%, C: 38%）を示す。父親の教育水準が高いほど、生徒の能力が高くなる傾向が見られる。
• 今後の研究のための大きな可能性を秘める拡張形として、高次マルコフ連鎖、混合型応答の柔軟なモデル化、欠損データ機構の明示的モデル化が挙げられる。