[论文解读] Learning High-dimensional Gaussian Graphical Models under Total Positivity without Adjustment of Tuning Parameters

Yuhao Wang, Uma Roy+1 more|arXiv (Cornell University)|Jun 12, 2019

Statistical Methods and Inference参考文献 35被引用 9

一句话总结

本文提出了一种无需调参的、基于约束的估计器，用于在多变量总正性（MTP2）条件下学习高维高斯图模型，利用经验偏相关系数的符号检验。该方法在无需调整调参的情况下实现了可证明的一致性结构恢复，在模拟实验和金融数据应用中表现优于现有方法。

ABSTRACT

We consider the problem of estimating an undirected Gaussian graphical model when the underlying distribution is multivariate totally positive of order 2 (MTP2), a strong form of positive dependence. Such distributions are relevant for example for portfolio selection, since assets are usually positively dependent. A large body of methods have been proposed for learning undirected graphical models without the MTP2 constraint. A major limitation of these methods is that their structure recovery guarantees in the high-dimensional setting usually require a particular choice of a tuning parameter, which is unknown a priori in real world applications. We here propose a new method to estimate the underlying undirected graphical model under MTP2 and show that it is provably consistent in structure recovery without adjusting the tuning parameters. This is achieved by a constraint-based estimator that infers the structure of the underlying graphical model by testing the signs of the empirical partial correlation coefficients. We evaluate the performance of our estimator in simulations and on financial data.

研究动机与目标

• 解决在MTP2约束下高维高斯图模型估计中调参敏感性的问题。
• 开发一种结构恢复方法，保证一致性且无需调整调参。
• 利用MTP2条件——即所有偏相关系数非负——以提高估计精度和理论保证。
• 在具有已知正相关结构的合成数据和真实金融数据集上评估性能。
• 证明基于符号的偏相关性检验可在MTP2条件下实现一致且无需调参的结构恢复。

提出的方法

• 该方法基于经验偏相关系数的符号进行条件独立性检验，以推断图结构。
• 采用约束方法，仅保留经验偏相关系数非负的边，与MTP2假设一致。
• 通过将阈值参数γ固定在其理论最优值（γ = 7/9）来实现无调参运行，确保一致性。
• 通过固定γ控制检验大小，测试每个偏相关系数是否显著大于零，从而构建估计器。
• 该方法计算量较大，时间复杂度为O(p^d)，但在高维设置下可保证理论一致性。
• 利用了在MTP2下真实精度矩阵的元素非负的特性，实现基于符号的边检测。

实验结果

研究问题

• RQ1 在MTP2约束下，是否可以实现无需调参调整的高斯图模型估计器在结构恢复中的一致性？
• RQ2 基于符号的偏相关性检验是否能在高维MTP2模型中实现可证明的一致性结构恢复？
• RQ3 与图形Lasso和稳定性选择等依赖调参的方法相比，固定γ的约束方法估计器性能如何？
• RQ4 该方法在具有内在正相关性的现实世界金融数据中是否能优于现有方法？
• RQ5 将γ固定为7/9的理论依据是什么？该选择是否能确保一致性？

主要发现

• 所提出的算法在无需调参调整的情况下实现了可证明的结构恢复一致性，这是MTP2高斯图模型中的首次。
• 在模拟实验中，该方法在马修斯相关系数（MCC）和真正例率（TPR）方面均优于所有竞争方法，且标准差最小。
• 在100只股票的金融数据中，该方法的模块度系数达到0.482，显著优于次佳方法（0.418）及其他所有方法，包括稳定性选择变体。
• 即使稳定性选择旨在降低调参敏感性，使用固定γ = 7/9的算法仍持续优于其方法。
• 该方法在各次试验中表现稳健，MCC和TPR变化极小，表明其具有高度一致性。
• 该算法是首个已知的、在具有理论一致性保证的高斯图模型中实现结构恢复的无需调参方法。