[论文解读] Dynamic Chain Graph Models for Ordinal Time Series Data

Pariya Behrouzi, Fentaw Abegaz+1 more|arXiv (Cornell University)|May 24, 2018

Bayesian Modeling and Causal Inference参考文献 15被引用 5

一句话总结

本文提出一种基于高斯克隆和惩罚似然估计的稀疏动态链图模型，用于推断高维有序及连续-有序时间序列中的条件独立结构。该方法能够捕捉时间步长之间的同期（无向）和格兰杰因果（有向）依赖关系，主要贡献在于对非高斯多变量时间序列的建模，以及通过SCAD和L1惩罚对精度矩阵和自回归矩阵实现网络推断。

ABSTRACT

This paper introduces sparse dynamic chain graph models for network inference in high dimensional non-Gaussian time series data. The proposed method parametrized by a precision matrix that encodes the intra time-slice conditional independence among variables at a fixed time point, and an autoregressive coefficient that contains dynamic conditional independences interactions among time series components across consecutive time steps. The proposed model is a Gaussian copula vector autoregressive model, which is used to model sparse interactions in a high-dimensional setting. Estimation is achieved via a penalized EM algorithm. In this paper, we use an efficient coordinate descent algorithm to optimize the penalized log-likelihood with the smoothly clipped absolute deviation penalty. We demonstrate our approach on simulated and genomic datasets. The method is implemented in an R package tsnetwork.

研究动机与目标

• 开发一种统计模型，以捕捉高维多变量有序时间序列中的瞬时（同期）和动态（延迟）依赖关系。
• 解决在非高斯、混合尺度时间序列数据（如分类或有序响应）中缺乏网络推断方法的问题。
• 通过惩罚似然估计，在精度矩阵（片内）和自回归系数矩阵（片间）中施加稀疏性，以实现对时间片内条件独立性和时间片间格兰杰因果关系的稀疏化。
• 在样本量有限且维度较高的情况下，实现准确的网络估计，尤其适用于纵向健康和基因组研究。
• 提供一个统一框架，结合高斯克隆模型与动态贝叶斯网络，以处理混合尺度时间序列。

提出的方法

• 该模型采用链图结构，其中无向边表示固定时间点上变量之间的同期条件独立关系，有向边表示连续时间步之间的动态、时滞依赖关系。
• 采用高斯克隆来建模混合连续与有序变量的联合分布，允许灵活的依赖结构，且无需假设正态性。
• 假设潜变量高斯向量在给定观测有序数据的条件下服从多元正态分布，潜变量分位数用于定义响应类别。
• 通过EM算法进行惩罚似然估计，采用L1和SCAD惩罚以在精度矩阵（片内）和自回归系数矩阵（片间）中诱导稀疏性。
• 采用高效的坐标下降算法优化惩罚对数似然函数，通过BIC或交叉验证选择调优参数。
• 利用Delta方法和截断正态分布的矩公式，近似潜变量的条件期望。

实验结果

研究问题

• RQ1 如何对包含同期和时滞交互作用的高维有序时间序列中的复杂条件依赖结构进行建模？
• RQ2 结合SCAD和L1惩罚的惩罚似然方法能否有效恢复非高斯多变量时间序列中的稀疏网络结构？
• RQ3 所提出的动态链图模型在网络恢复准确性和稀疏性保持方面与现有方法相比表现如何？
• RQ4 利用该模型可从抑郁和焦虑障碍症状的动态关系中获得哪些新见解？
• RQ5 该模型在基因组学和心理健康之外的混合连续-有序时间序列数据中具有多大程度的泛化能力？

主要发现

• 所提出的方法在模拟数据中能准确恢复潜在的条件独立网络结构，在片内和片间网络恢复方面均优于一种稀疏对比方法。
• 在荷兰抑郁与焦虑研究的分析中，'感到悲伤'在同期网络和格兰杰因果网络中均表现为关键枢纽，表明其在症状进展中的核心作用。
• 从情绪相关条目到心理健康条目的有向边表明，情绪障碍对更广泛心理健康状况的发展具有长期影响。
• 睡眠障碍对其他症状无显著有向影响，表明其在该网络模型中因果影响有限。
• 该模型成功识别出稀疏且可解释的网络，反映了纵向心理健康数据中生物学上合理的关联关系。
• 带有坐标下降的惩罚EM算法收敛迅速，模拟研究中SCAD惩罚相比L1惩罚本身能实现更优的变量选择效果。