[论文解读] Flexible Bayesian Dynamic Modeling of Correlation and Covariance Matrices

Shiwei Lan, Andrew J. Holbrook+4 more|arXiv (Cornell University)|Nov 8, 2017

Bayesian Methods and Mixture Models参考文献 66被引用 3

一句话总结

该论文提出了一种灵活的贝叶斯框架，通过在球面上使用单位向量乘积表示法来建模动态相关性和协方差矩阵，从而在限制性较强的逆威沙特分布之外实现了非信息性、可解释的先验。该方法引入了自适应Δ-球面哈密顿蒙特卡洛算法以实现后验计算，并在大鼠记忆任务中显著提升了对神经动力学的检测能力，揭示了在500毫秒前此前未被发现的认知状态差异。

ABSTRACT

Modeling correlation (and covariance) matrices can be challenging due to the positive-definiteness constraint and potential high-dimensionality. Our approach is to decompose the covariance matrix into the correlation and variance matrices and propose a novel Bayesian framework based on modeling the correlations as products of unit vectors. By specifying a wide range of distributions on a sphere (e.g. the squared-Dirichlet distribution), the proposed approach induces flexible prior distributions for covariance matrices (that go beyond the commonly used inverse-Wishart prior). For modeling real-life spatio-temporal processes with complex dependence structures, we extend our method to dynamic cases and introduce unit-vector Gaussian process priors in order to capture the evolution of correlation among components of a multivariate time series. To handle the intractability of the resulting posterior, we introduce the adaptive $Δ$-Spherical Hamiltonian Monte Carlo. We demonstrate the validity and flexibility of our proposed framework in a simulation study of periodic processes and an analysis of rat's local field potential activity in a complex sequence memory task.

研究动机与目标

• 为解决标准逆威沙特先验在协方差矩阵建模中的局限性，其限制性强且缺乏灵活性。
• 开发一种计算高效的贝叶斯方法，保持方差和相关性分量的正定性和可解释性。
• 将该框架扩展至动态设置，以建模多变量随机过程中的时变依赖结构，尤其适用于神经科学应用。
• 提出一种新颖的推断算法——自适应Δ-球面哈密顿蒙特卡洛，以处理由复杂先验引发的不可解析后验分布。
• 从理论和实证两方面研究动态协方差建模的后验收缩率，这是该领域首次开展此类研究。

提出的方法

• 将协方差矩阵分解为方差矩阵和相关性矩阵，通过球面上单位向量的乘积来建模相关性。
• 使用球面上的分布（如平方狄利克雷分布）在相关性矩阵上诱导灵活的、非共轭的先验。
• 在球面分量上施加单位向量高斯过程先验，以建模动态过程中时变的相关性结构。
• 应用乔列斯基分解，以确保在每个时间点上生成的相关性矩阵均为正定。
• 开发自适应Δ-球面哈密顿蒙特卡洛算法，以高效地从新型几何先验结构下的不可解析后验分布中抽样。
• 采用结构化参数化方法，使各分量间保持依赖先验，同时保持成对相关性的可解释性。

实验结果

研究问题

• RQ1 基于球面上的几何单位向量表示能否为协方差矩阵提供一种灵活且可解释的替代逆威沙特先验的方法？
• RQ2 如何利用球面分量上的高斯过程先验有效建模多变量时间序列中的动态相关性结构？
• RQ3 所提出的动态协方差矩阵贝叶斯模型的后验收缩率是多少？与均值函数的后验收缩率相比如何？
• RQ4 该方法能否在传统方法失效的复杂认知任务中检测到细微且时变的神经连接变化？
• RQ5 自适应Δ-球面HMC算法在高维、受限后验分布下的混合性和收敛性表现如何？

主要发现

• 所提出的方法成功检测到在大鼠记忆任务中InSeq与OutSeq试验之间神经活动的显著差异，尤其在500毫秒之前，这些差异在传统分析中未被发现。
• 该模型揭示了在350毫秒之前的时间窗口内存在不同的神经动力学，表明序列信息的早期处理甚至早于行为反应。
• 后验收缩分析表明，协方差后验的收缩率与集中函数一致，但慢于均值后验，提示理论优化空间。
• 自适应Δ-球面HMC算法实现了从复杂高维后验中高效抽样，支持了该方法在真实神经数据中的实际应用。
• 该框架在捕捉模拟周期过程和真实LFP数据中复杂非平稳依赖关系方面，优于标准潜因子模型和参数化模型。
• 该方法在检测动态脑连接变化方面表现出强鲁棒性和高敏感性，尤其在早期认知处理阶段，凸显其在神经科学中的实用价值。