[论文解读] Post-Regularization Inference for Time-Varying Nonparanormal Graphical Models

Junwei Lu, Mladen Kolar+1 more|arXiv (Cornell University)|Dec 28, 2015

Statistical Methods and Inference参考文献 97被引用 8

一句话总结

该论文提出了一种用于高维、重尾数据且依赖结构随时间演变的时变非正态图形模型。它提出了一种无需去偏的核平滑 Kendall’s tau 估计器，用于一致估计逆相关矩阵，从而实现对边存在的局部和全局一致推断，且无需最小信号强度假设或 oracle 支持恢复。

ABSTRACT

We propose a novel class of time-varying nonparanormal graphical models, which allows us to model high dimensional heavy-tailed systems and the evolution of their latent network structures. Under this model, we develop statistical tests for presence of edges both locally at a fixed index value and globally over a range of values. The tests are developed for a high-dimensional regime, are robust to model selection mistakes and do not require commonly assumed minimum signal strength. The testing procedures are based on a high dimensional, debiasing-free moment estimator, which uses a novel kernel smoothed Kendall's tau correlation matrix as an input statistic. The estimator consistently estimates the latent inverse Pearson correlation matrix uniformly in both the index variable and kernel bandwidth. Its rate of convergence is shown to be minimax optimal. Our method is supported by thorough numerical simulations and an application to a neural imaging data set.

研究动机与目标

• 解决在高维、非高斯且重尾设定下，时变图形模型缺乏推断程序的问题。
• 克服现有方法假设高斯性或要求每个时间点有重复观测的局限性。
• 在模型选择不完美时，开发对时变网络中边存在的统一有效统计检验。
• 在功能性脑网络分析中实现不确定性量化，利用 fMRI 数据，其中传统方法因非高斯性和时变结构而失效。
• 建立对潜在逆相关矩阵的极小极大最优估计器，该估计器对模型选择错误具有鲁棒性，且无需去偏。

提出的方法

• 提出一种时变非正态模型，其中给定 Z = z 时 X 的条件分布为非正态分布，从而允许灵活的非高斯依赖结构。
• 使用 Kendall’s tau 相关矩阵的核平滑版本作为核心输入统计量，以估计潜在逆相关矩阵，避免了去偏程序的需要。
• 构建一个对逆相关矩阵的统一一致估计器，其在索引变量 z 和带宽 h 上一致收敛，且收敛速率达到极小极大最优。
• 推导 U-过程的新一致界，并在高维性和局部近似误差下仔细分析估计器展开式中的主导项。
• 应用 Le Cam 方法于函数值矩阵类，证明估计器收敛速率的极小极大最优性。
• 开发三种假设检验：局部边存在性检验、超图检验和在一系列索引值上的统一边存在性检验，所有检验均基于所提出的估计器，且对模型选择错误具有鲁棒性。

实验结果

研究问题

• RQ1 我们能否在不假设最小信号强度的前提下，为高维、非高斯设定下的时变图形模型开发一种统计上有效的推断程序？
• RQ2 是否可能构建一个对模型选择错误具有鲁棒性且无需去偏的时变逆相关矩阵的统一一致估计器？
• RQ3 我们能否在非正态、时变框架下实现对逆相关矩阵的极小极大最优估计速率？
• RQ4 我们如何在固定时间点局部以及在一系列时间点上全局地测试时变网络中边的存在性？
• RQ5 我们能否开发即使在真实图形结构未被正则化完美恢复时也有效的推断程序？

主要发现

• 所提出的核平滑 Kendall’s tau 估计器在索引变量 z 和带宽 h 上均实现统一一致性，且收敛速率达到极小极大最优。
• 该估计器无需去偏或除带宽外的调参，且对模型选择错误具有鲁棒性。
• 针对边存在的统计检验——局部检验、超图检验和统一检验——在高维情形下均实现统一有效性，且不依赖于 oracle 支持恢复。
• 通过详尽的模拟实验表明，该方法在重尾和时变依赖结构下具有准确的尺寸控制和高检测边的统计功效。
• 在 fMRI 神经成像数据上的应用展示了该方法在传统高斯方法失效时，仍能检测到有意义且随时间演变的脑连接模式。
• 理论分析表明，逆相关矩阵估计器的收敛速率在极小极大意义下是最优的，通过在精心构造的函数值矩阵类上应用 Le Cam 方法得以证明。