[논문 리뷰] LMest: an R package for latent Markov models for categorical longitudinal data

Francesco Bartolucci, Alessio Farcomeni외 2명|arXiv (Cornell University)|2015. 01. 19.

Bayesian Methods and Mixture Models참고 문헌 33인용 수 11

한 줄 요약

이 논문은 기대값-최대화(EM) 알고리즘과 전진-후진 재귀를 사용하여 범주형 종단적 자료에 대한 잠재 마르코프(LM) 모형을 피팅하기 위한 R 패키지인 LMest를 소개한다. 이 패키지는 측정 과정과 잠재 과정 양쪽에 개인 특성 변수를 포함한 LM 모형의 추정을 가능하게 하며, 랜덤 효과를 포함한 혼합 LM 모형을 지원하고, 표준 오차 및 디코딩 옵션을 제공하여 사회학, 의학 및 행동 연구 분야에서 관측되지 않은 이질성과 시간에 따라 변화하는 관측되지 않은 특성 분석을 위한 유연한 도구를 제공한다.

ABSTRACT

Latent Markov (LM) models represent an important class of models for the analysis of longitudinal data (Bartolucci et. al., 2013), especially when response variables are categorical. These models have a great potential of application for the analysis of social, medical, and behavioral data as well as in other disciplines. We propose the R package LMest, which is tailored to deal with these types of model. In particular, we consider a general framework for extended LM models by including individual covariates and by formulating a mixed approach to take into account additional dependence structures in the data. Such extensions lead to a very flexible class of models, which allows us to fit different types of longitudinal data. Model parameters are estimated through the expectation-maximization algorithm, based on the forward-backward recursions, which is implemented in the main functions of the package. The package also allows us to perform local and global decoding and to obtain standard errors for the parameter estimates. We illustrate its use and the most important features on the basis of examples involving applications in health and criminology.

연구 동기 및 목표

• 범주형 종단적 자료에 대한 잠재 마르코프 모형을 효율적으로 추정할 수 있도록 하는 R 패키지 개발.
• 측정 모형과 잠재 마르코프 체인 양쪽에 개인 특성 변수를 포함시켜 기존 모형을 확장.
• 관측되지 않은 이질성을 캐치하기 위해 랜덤 효과를 도입한 혼합 LM 모형을 지원하여 추가적인 의존성 구조를 반영.
• 관측 정보 행렬을 사용하여 모수 추정치의 정확한 표준 오차를 제공.
• 해석 가능성과 모형 진단을 위해 잠재 상태의 국소적 및 전역적 디코딩을 촉진.

제안 방법

• 최대우도 추정을 위해 전진-후진 재귀를 사용하는 기대값-최대화(EM) 알고리즘을 적용.
• 측정 모형 또는 잠재 마르코프 체인에 개인 특성 변수를 포함시키기 위해 효율적인 매개변수화 방법 적용.
• 관측되지 않은 이질성을 캐치하기 위해 랜덤 효과를 도입하여 혼합 LM 모형의 수식을 구현.
• 계산 효율성을 향상시키고 시간 소모를 줄이기 위해 포트란 루틴을 활용.
• 정확하거나 신뢰할 수 있는 근사치를 사용해 관측 정보 행렬을 기반으로 표준 오차 계산.
• 모델 추정 시 단변량 및 다변량 범주형 결과 모두 지원.

실험 결과

연구 질문

• RQ1 종단적 범주형 자료에서 개인 특성 변수가 반응이나 잠재 과정에 영향을 주는 잠재 마르코프 모형은 어떻게 확장될 수 있는가?
• RQ2 랜덤 효과를 포함한 혼합 잠재 마르코프 모형에서 모수 추정의 성능과 정확도는 어떠한가?
• RQ3 복잡한 LM 모형에서 모수 추정치의 표준 오차는 어떻게 신뢰성 있게 계산될 수 있는가?
• RQ4 의료 및 범죄학과 같은 실제 적용 사례에서 잠재 상태의 해석 가능성은 어떠한가?
• RQ5 기존의 은닉 마르코프 모형을 위한 R 패키지와 비교해 LMest 패키지의 효율성과 기능성은 어떠한가?

주요 결과

• LMest 패키지는 측정 모형과 잠재 과정 모형 양쪽에 개인 특성 변수를 포함하여 시간에 따라 변화하는 관측되지 않은 특성에 대한 민감한 모델링을 성공적으로 수행한다.
• 범죄를 저를 조건부 확률 분석 결과, 두 번째 잠재 상태(여성의 18.2%)는 절도 및 강도에 대한 높은 경향성을 보였고, 첫 번째 상태(81.8%)는 거의 0에 가까운 범죄 경향성을 보였다.
• 첫 번째 군집에 속한 여성(22%)은 두 번째 상태에서 첫 번째 상태로 전이될 확률이 64%였고, 두 번째 군집의 경우 34%였으며, 이는 첫 번째 군집에서 더 강한 행동 개선 경향이 있음을 시사한다.
• 모든 시간 포인트에서 상태 1에서 상태 1로의 전이 확률이 대부분 0.99를 초과하여 첫 번째 잠재 상태에서의 높은 지속성이 드러났다.
• 모수 추정치의 표준 오차는 관측 정보 행렬의 신뢰할 수 있는 근사치를 사용해 계산되었으며, 이는 모형 추론의 정확성을 향상시켰다.
• 패키지는 다변량 범주형 결과를 지원하며, 효율적인 디코딩 및 예측 도구를 제공한다. 향후 업데이트로 연속형 결과 및 정보가 포함된 누락 자료 처리 기능이 추가될 예정이다.