[论文解读] Two-sample inference for high-dimensional Markov networks

Byol Kim, Song Liu+1 more|Explore Bristol Research|May 1, 2019

Statistical Methods and Inference参考文献 68被引用 8

一句话总结

该论文提出了一种在高维马尔可夫网络中进行两样本推断的新方法，通过直接使用密度比方法估计两个网络之间的差异，避免了对单个网络的独立图估计。该方法在弱假设下提供了有限样本的高斯近似误差界，并采用基于自助法的推断程序，用于检验网络相等性或构建置信区间，即使在单个网络密集但其差异稀疏的情况下依然有效，且无需完美模型选择。

ABSTRACT

Markov networks are frequently used in sciences to represent conditional independence relationships underlying observed variables arising from a complex system. It is often of interest to understand how an underlying network differs between two conditions. In this paper, we develop methods for comparing a pair of high-dimensional Markov networks where we allow the number of observed variables to increase with the sample sizes. By taking the density ratio approach, we are able to learn the network difference directly and avoid estimating the individual graphs. Our methods are thus applicable even when the individual networks are dense as long as their difference is sparse. We prove finite-sample Gaussian approximation error bounds for the estimator we construct under significantly weaker assumptions than are typically required for model selection consistency. Furthermore, we propose bootstrap procedures for estimating quantiles of a max-type statistics based on our estimator, and show how they can be used to test the equality of two Markov networks or construct simultaneous confidence intervals. The performance of our methods is demonstrated through extensive simulations. The scientific usefulness is illustrated with an analysis of a new fMRI dataset.

研究动机与目标

• 开发一种统一的框架，用于在高维马尔可夫网络中对差异网络进行统计推断，而无需假设高斯分布或特定参数模型。
• 解决现有方法的局限性，即要求单个网络稀疏，从而实现仅当网络差异稀疏时的推断。
• 为网络差异提供有效的不确定性量化（置信区间与假设检验），这在高维差异网络估计中常被忽视。
• 在弱正则性条件下建立有限样本高斯近似误差界，其假设弱于模型选择一致性，避免了不一致性与强信号强度条件。

提出的方法

• 使用密度比方法直接估计两个高维马尔可夫网络之间的差异，避免了分别估计每个网络的需要。
• 应用Kullback-Leibler重要性估计程序（KLIEP）来建模两种条件下概率密度之比。
• 通过最小化估计密度比与真实密度比之间KL散度的损失函数，构建差异网络的正则化估计器。
• 采用自助法程序来估计最大型统计量的分位数，从而实现有效的假设检验与同时置信区间构造。
• 在弱正则性条件下，为估计器推导出有限样本高斯近似误差界，无需完美模型选择或强信号强度条件。
• 在估计过程中使用自动缩放公式与通用惩罚水平，以提升鲁棒性与实际性能。

实验结果

研究问题

• RQ1 我们能否在不假设单个网络稀疏的情况下，对两个高维马尔可夫网络之间的差异进行有效的统计推断？
• RQ2 在弱假设下，如何构建同时置信区间并执行网络差异的假设检验？
• RQ3 基于密度比估计的直接差异网络估计器，其有限样本误差界是什么？
• RQ4 自助法程序能否可靠地估计高维差异网络推断中最大型统计量的临界值？
• RQ5 当单个网络密集但其差异稀疏时，所提出的方法是否仍保持有效性与检验效能？

主要发现

• 所提出的方法即使在单个网络密集的情况下，只要其差异稀疏，仍能实现有效的推断，这显著优于要求两个网络均稀疏的方法。
• 在弱于模型选择一致性所需假设的条件下，建立了有限样本高斯近似误差界，避免了不一致性与强信号强度条件。
• 针对最大型统计量的自助法程序被证明在构建同时置信区间与检验网络相等性方面有效且可靠。
• 在模拟实验中，该方法保持了适当的 I 类错误控制，并在差异稀疏时表现出良好的检验效能。
• 在 fMRI 应用中，该方法成功检测到与任务相关的脑网络变化，结果与已知神经生物学预期一致。
• 在美国内阁参议员投票数据中，该方法未发现新泽西州参议员在席位更替后投票行为发生显著变化，结果与预期和先验知识一致。