[논문 리뷰] Dynamic Chain Graph Models for Ordinal Time Series Data

Pariya Behrouzi, Fentaw Abegaz외 1명|arXiv (Cornell University)|2018. 05. 24.

Bayesian Modeling and Causal Inference참고 문헌 15인용 수 5

한 줄 요약

이 논문은 고차원의 순서형 및 혼합 연속-순서형 시계열에서 조건부 이상독립 구조를 추론하기 위해 가우시안 코풀라와 페널라이제이션된 우도 추정을 사용하는 희박한 동적 체인 그래프 모델을 제안한다. 이 방법은 시간 단계 간의 동시적(무방향) 및 그랑저 원인관계적(유감) 의존성을 모두 포착하며, 비정규 다변량 시계열 모델링 및 정밀행렬과 자기회귀 계수 행렬에 대한 SCAD 및 L1 페널티를 통한 네트워크 추론이라는 주요 기여를 한다.

ABSTRACT

This paper introduces sparse dynamic chain graph models for network inference in high dimensional non-Gaussian time series data. The proposed method parametrized by a precision matrix that encodes the intra time-slice conditional independence among variables at a fixed time point, and an autoregressive coefficient that contains dynamic conditional independences interactions among time series components across consecutive time steps. The proposed model is a Gaussian copula vector autoregressive model, which is used to model sparse interactions in a high-dimensional setting. Estimation is achieved via a penalized EM algorithm. In this paper, we use an efficient coordinate descent algorithm to optimize the penalized log-likelihood with the smoothly clipped absolute deviation penalty. We demonstrate our approach on simulated and genomic datasets. The method is implemented in an R package tsnetwork.

연구 동기 및 목표

• 고차원 다변량 순서형 시계열에서 즉각적(동시적) 및 동적(지연된) 의존성을 모두 포착하는 통계 모델을 개발하는 것.
• 범주형 또는 순서형 반응을 포함한 비정규, 혼합 척도 시계열 데이터에 대한 네트워크 추론 방법의 부족을 해결하는 것.
• 정밀행렬(내부 슬라이스)과 자기회귀 계수 행렬(간섭 슬라이스)에 대한 페널라이제이션된 우도를 통해 내부 시간 슬라이스의 조건부 이상독립성과 시간 간섭 간의 그랑저 원인관계적 관계에 대한 희박성 강제 조건을 설정하는 것.
• 특히 종단적 건강 및 게놈 연구에서 표본 수가 제한되고 차원이 높은 설정에서도 정확한 네트워크 추정을 가능하게 하는 것.
• 혼합 척도 시계열을 위한 가우시안 코풀라 모델과 동적 베이지안 네트워크를 통합하는 통합 프레임워크를 제공하는 것.

제안 방법

• 모델은 고정된 시간점에서 변수 간의 동시적 조건부 이상독립성에 대해 무방향 엣지를, 연속적인 시간 단계 간의 동적 지연 의존성에 대해 유감 엣지를 갖는 체인 그래프 구조를 사용한다.
• 혼합 연속 및 순서형 변수의 공동 분포를 모델링하기 위해 가우시안 코풀라를 사용하여 정규성 가정 없이도 다소 자유로운 의존성 구조를 가능하게 한다.
• 관측된 순서형 데이터 조건 하에 잠재 가우시안 벡터가 다변량 정규분포를 따른다고 가정하며, 응답 카테고리의 잠재 임계값이 정의된다.
• EM 알고리즘을 사용한 페널라이제이션된 우도 추정이 수행되며, 정밀행렬(내부 슬라이스)과 자기회귀 계수 행렬(간섭 슬라이스)에 대해 L1 및 SCAD 페널티를 적용하여 희박성을 유도한다.
• 효율적인 좌표 강하 알고리즘이 페널라이제이션된 로그우도 함수를 최적화하며, 조정 파rameter는 BIC 또는 교차검증을 통해 선택된다.
• 잠재 변수의 조건부 기대값은 도형법과 잘린 정규분포에서 유도된 모멘트 공식을 사용하여 근사된다.

실험 결과

연구 질문

• RQ1 고차원 순서형 시계열에서 동시적 및 시간 지연 상호작용을 모두 포함하는 복잡한 조건부 의존성 구조를 어떻게 모델링할 수 있는가?
• RQ2 SCAD 및 L1 페널티를 갖는 페널라이제이션된 우도 접근법이 비정규 다변량 시계열에서 희박한 네트워크 구조를 효과적으로 복원할 수 있는가?
• RQ3 제안된 동적 체인 그래프 모델은 네트워크 복원 정확도 및 희박성 유지 측면에서 기존 방법과 어떻게 비교되는가?
• RQ4 이 모델을 사용하여 우울증 및 불안 장애에서 증상 간의 동적 관계에 대해 어떤 통찰을 얻을 수 있는가?
• RQ5 이 모델은 게놈학 및 정신건강 외의 혼합 연속-순서형 시계열 데이터에 대해 얼마나 일반화 가능한가?

주요 결과

• 제안된 방법은 시뮬레이션 데이터에서 기저의 조건부 이상독립 네트워크를 정확하게 복원하며, 내부 슬라이스 및 간섭 슬라이스 네트워크 복원 모두에서 희박한 대안 방법보다 뛰어난 성능을 보였다.
• 네덜란드 우울증 및 불안 연구 분석에서 '슬픔을 느끼는 것'이 동시적 네트워크와 그랑저 원인관계적 네트워크 양쪽 모두에서 중심 허브로 나타나 증상 진행에서의 핵심적 역할을 함을 시사했다.
• 기분 관련 항목에서 정신건강 항목으로의 유감 엣지는 장기적으로 기분 장애가 더 넓은 정신건강 장애 발달에 영향을 준다는 것을 시사한다.
• 수면 장애는 다른 증상에 유의미한 유감 영향을 미치지 않아 네트워크 모델에서 제한된 원인적 영향을 가짐을 시사한다.
• 모델은 종단적 정신건강 데이터에서 생물학적으로 타당한 관계를 반영하는 희박하고 해석 가능한 네트워크를 성공적으로 식별했다.
• SCAD 페널티를 사용한 페널라이제이션된 EM 알고리즘과 좌표 강하 알고리즘이 효율적으로 수렴했으며, 시뮬레이션 연구에서 L1 단독보다 SCAD 페널티가 더 우수한 변수 선택 성능을 보였다.