[논문 리뷰] hmmTMB: hidden Markov models with flexible covariate effects in R

Théo Michelot|arXiv (Cornell University)|2022. 11. 25.

Bayesian Methods and Mixture Models인용 수 7

한 줄 요약

이 논문은 생태학, 금융, 의학 분야에서 다변량 연속형, 이산형, 이진형 반응 변수를 지원하며, 비선형 효과를 위한 페널라이제이션 스퍼인( penalized splines)과 개인 간 이질성을 위한 랜덤 효과를 포함하는 유연한 은닉 마르코프 모형(HMM)을 가능하게 하는 R 패키지 hmmTMB를 소개한다. 주요 기여는 복잡한 HMM에 대해 계산적으로 효율적이고 모듈화된 프레임워크를 제공하며, 자동 부드러움 선택 기능과 함께 이질적인 상태 전이 및 관측 분포 파rameter에 대한 공변수 효과를 포함한다.

ABSTRACT

Hidden Markov models (HMMs) are widely applied in studies where a discrete-valued process of interest is observed indirectly. They have for example been used to model behaviour from human and animal tracking data, disease status from medical data, and financial market volatility from stock prices. The model has two main sets of parameters: transition probabilities, which drive the latent state process, and observation parameters, which characterise the state-dependent distributions of observed variables. One particularly useful extension of HMMs is the inclusion of covariates on those parameters, to investigate the drivers of state transitions or to implement Markov-switching regression models. We present the new R package hmmTMB for HMM analyses, with flexible covariate models in both the hidden state and observation parameters. In particular, non-linear effects are implemented using penalised splines, including multiple univariate and multivariate splines, with automatic smoothness selection. The package allows for various random effect formulations (including random intercepts and slopes), to capture between-group heterogeneity. hmmTMB can be applied to multivariate observations, and it accommodates various types of response data, including continuous (bounded or not), discrete, and binary variables. Parameter constraints can be used to implement non-standard dependence structures, such as semi-Markov, higher-order Markov, and autoregressive models. Here, we summarise the relevant statistical methodology, we describe the structure of the package, and we present an example analysis of animal tracking data to showcase the workflow of the package.

연구 동기 및 목표

• 은닉 마르코프 모형(HMM)에서 공변수 효과의 유연한 모형화, 특히 비선형 관계와 개인 간 이질성을 다루기 위한 필요성 해결
• 표준 HMM을 확장하여 공변수가 전이 확률과 관측 분포 파라미터 양쪽에 영향을 미치도록 허용
• 혼합효과 및 반-마르코프 구조를 포함한 복잡한 모형 설정을 지원하는 계산적으로 효율적이고 모듈화된 R 패키지 제공
• 우도 기반 추론 프레임워크 내에서 페널라이제이션 스퍼인을 사용해 비선형 효과의 자동 부드러움 선택 가능화
• 연속형, 이진형, 이산형 등 다양한 반응 유형과 파라미터 제약 조건을 통한 복잡한 의존 구조 모형화 지원

제안 방법

• 전이 및 관측 파라미터를 매개변수화하기 위해 固定 효과와 랜덤 효과를 포함한 혼합 선형 예측자 모델 사용: $\eta = \mathbf{X}\bm{\alpha} + \mathbf{R}\bm{\beta}$, $\bm{\beta} \sim N(\mathbf{0}, \mathbf{Q})$
• 비선형 공변수 효과를 위해 페널라이제이션 스퍼인(P-splines)을 구현하며, 단변량 및 다변량 스퍼인을 포함하고, 라플라스 근사법을 통한 자동 부드러움 선택 기능 제공
• 라플라스 근사를 통한 최대우도 추정을 위한 TMB(Template Model Builder) 프레임워크 활용으로 빠른 계산 성능 확보
• 정규분포, 이항분포, 포isson분포 등 다양한 반응 분포 지원 및 파라미터 제약 조건을 통한 비마르코프 과정 모형화(예: 고차 마르코프, 반-마르코프)
• 모형 적합, 추론, 시각화를 위한 도구 제공 — 전이 확률, 상태 확률, 랜덤 효과의 95% 신뢰구간 포함된 플롯 함수 포함
• 우도 평가에 전진 알고리즘(Forward algorithm)을 사용하고, 수치 최적화를 통해 모형 파라미터 추정

실험 결과

연구 질문

• RQ1 공변수가 전이 및 관측 파라미터에 비선형 영향을 미치는 HMM은 어떻게 확장할 수 있는가?
• RQ2 종단적 자료에서 개인 간 이질성은 상태 전이 역학에 어떤 영향을 미치는가?
• RQ3 자동 부드러움 선택 기능을 갖춘 페널라이제이션 스퍼인은 HMM에 효과적으로 통합되어 비선형 모형화에 활용될 수 있는가?
• RQ4 반-마르코프, 고차 마르코프 등 복잡한 의존 구조는 통합 HMM 프레임워크 내에서 어떻게 구현될 수 있는가?
• RQ5 랜덤 효과와 스퍼인을 포함한 복잡한 HMM에서 라플라스 근사는 성능 및 신뢰성 면에서 어떻게 평가될 수 있는가?

주요 결과

• 패키지는 고래새의 '이동' 상태에서 '채식' 상태로의 전이 확률이 중심 위치로부터의 거리 함수로 모형화되어 있으며, 1000km를 초과하면 전이 확률이 급격히 감소함을 보여줌
• 전이 S3→S2에 대한 개인별 랜덤 절편의 표준편차 추정치는 0.414로, 상태 전이 행동에 있어 상당한 개인 간 변동성이 있음을 시사함
• 중심 위치에서의 거리 증가와 함께 '이동' 상태에 머무를 확률이 유의미하게 감소함을 확인하여, 목표 지향적인 채식 행동이 존재함을 시사함
• 거리가 전이 확률에 미치는 스무딩 효과는 95% 신뢰구간과 함께 추정되었으며, 데이터 기반의 민감한 비선형 모형화에 페널라이제이션 스퍼인의 유용성을 입증함
• 전이 S2→S3에 대한 랜덤 효과 표준편차는 절편 항목에서 0.466, 스퍼인 항목에서 0.123로, 이 전이에서 개인 수준의 변동성이 뚜렷함을 나타냄
• 패키지는 다변량 반응 및 파라미터 제약 조건을 포함한 복잡한 HMM에 대해 효율적인 추론을 가능하게 하며, 실제 생태학적 및 생물의학 데이터에 적합한 계산 성능 확보