[论文解读] Tree-based Node Aggregation in Sparse Graphical Models

Ines Wilms, Jacob Bien|PubMed|Jan 29, 2021

Statistical Methods and Inference参考文献 33被引用 4

一句话总结

本文提出 tag-lasso，一种凸优化正则化方法，通过树状结构的辅助信息，在高维图模型中联合诱导边稀疏性和数据驱动的节点聚合。利用树结构对相似节点进行分组，并施加稀疏性诱导惩罚，tag-lasso 生成了可解释的聚合图模型，在金融和微生物组数据等真实应用场景以及模拟实验中，其性能均优于标准 glasso。

ABSTRACT

High-dimensional graphical models are often estimated using regularization that is aimed at reducing the number of edges in a network. In this work, we show how even simpler networks can be produced by aggregating the nodes of the graphical model. We develop a new convex regularized method, called the <i>tree-aggregated graphical lasso</i> or tag-lasso, that estimates graphical models that are both edge-sparse and node-aggregated. The aggregation is performed in a data-driven fashion by leveraging side information in the form of a tree that encodes node similarity and facilitates the interpretation of the resulting aggregated nodes. We provide an efficient implementation of the tag-lasso by using the locally adaptive alternating direction method of multipliers and illustrate our proposal's practical advantages in simulation and in applications in finance and biology.

研究动机与目标

• 解决在变量以细粒度分辨率测量的高维图模型中，可解释性与维度灾难的挑战。
• 克服标准图 lasso 仅关注边稀疏性、无法有意义地聚合相关变量的局限性。
• 将辅助信息以树结构形式整合，实现数据驱动的分层节点聚合，以提升模型可解释性。
• 构建一个凸优化框架，同时促进边稀疏性和节点聚合，以降低模型复杂度。
• 通过模拟实验和金融、微生物组数据等真实应用场景，展示该方法的实际优势。

提出的方法

• 提出一种基于树的参数化方法，将节点聚合映射为稀疏建模问题，实现高效优化。
• 将 tag-lasso 形式化为一个凸优化问题：最小化 −log det(Ω) + tr(SΩ) + λ₁‖Ω‖₁ + λ₂‖Ω‖_T，其中 ‖Ω‖_T 用于强制实施基于树的聚合。
• 使用局部自适应的交替方向乘子法（ADMM）高效计算 tag-lasso 估计器。
• 结合交叉验证选择调优参数 λ₁（稀疏性）和 λ₂（聚合强度），支持受约束或无约束的块数选择。
• 支持灵活的聚合层级，包括通过交叉验证实现对聚合节点数量的数据驱动全选。
• 在 R 包 taglasso 中实现该方法，GitHub 上可获取，以确保可复现性与实际应用。

实验结果

研究问题

• RQ1 基于树结构引导的节点聚合，是否能相比仅依赖边稀疏性的标准方法，提升高维图模型的可解释性与准确性？
• RQ2 当真实图结构已知为稀疏且具有层次分组特性时，tag-lasso 在恢复真实聚合网络结构方面表现如何？
• RQ3 通过交叉验证实现的数据驱动聚合层级选择，是否能带来优于标准 glasso 或固定聚合方法的泛化性能？
• RQ4 在微生物组和金融等真实应用场景中，tag-lasso 是否能生成比 glasso 更具可解释性与准确性的图模型？
• RQ5 在 tag-lasso 中采用受约束的聚合时，是否存在可解释性（通过聚合实现）与预测性能（泛化误差）之间的权衡？

主要发现

• 在模拟实验中，tag-lasso 成功恢复了真实的聚合图结构，在估计正确稀疏模式和节点分组方面优于 glasso。
• 在微生物组数据中，tag-lasso 估计出一个包含 8 个聚合节点（OTUs、属和目级群组）的网络，而 glasso 在 OTU 层级生成了一个密集且难以解释的网络。
• 无约束的 tag-lasso 在 10 次重复实验中有 9 次实现了比 glasso 更低的泛化测试误差，表明其具有更优的预测性能。
• 受约束版本的 tag-lasso（块数 ≤10）保持了与 glasso 相当的性能，测试误差接近 45 度线，表明在提升可解释性的同时未造成显著的准确性损失。
• 受约束 tag-lasso 中的 "k_Bacteria*" 节点聚合了 78 个被估计为条件独立的 OTUs，展示了有效的信号增强与噪声抑制。
• 该方法成功识别出有意义的生物学分组（如属级节点 "g_Blautia"），并捕捉到不同分类层级间的相互作用，而 glasso 无法实现这一点。