[论文解读] Hierarchical network models for structured exchangeable interaction processes

Walter Dempsey, Brandon Oselio+1 more|arXiv (Cornell University)|Jan 28, 2019

Complex Network Analysis Techniques参考文献 39被引用 6

一句话总结

本文提出了分层顶点成分模型（HVCM），这是一种用于结构化交互数据（如电子邮件和多作者科学论文）的边交换网络模型。通过利用共享全局分布的局部池化，该模型同时捕捉了每个发件人的局部幂律度分布以及全局稀疏性和幂律行为，基于Enron和arXiv数据集的吉布斯采样验证了其强大的后验预测拟合效果。

ABSTRACT

Network data often arises via a series of structured interactions among a population of constituent elements. E-mail exchanges, for example, have a single sender followed by potentially multiple receivers. Scientific articles, on the other hand, may have multiple subject areas and multiple authors. We introduce hierarchical edge exchangeable models for the study of these structured interaction networks. In particular, we introduce the hierarchical vertex components model as a canonical example, which partially pools information via a latent, shared population-level distribution. Theoretical analysis and supporting simulations provide clear model interpretation, and establish global sparsity and power-law degree distribution. A computationally tractable Gibbs algorithm is derived. We demonstrate the model on both the Enron e-mail dataset and an ArXiv dataset, showing goodness of fit of the model via posterior predictive validation.

研究动机与目标

• 解决现有边交换模型在捕捉多收件人电子邮件和多主题学术论文等交互数据结构复杂性方面的局限性。
• 构建一个建模范式，用于建模结构化交互网络，其中交互（边）是统计单元，而非单个节点。
• 为反映现实世界网络特性的分层模型中的稀疏性和幂律度分布提供理论保证。
• 通过吉布斯采样算法提供计算上可行的推断方法，实现可扩展的后验计算。
• 通过在Enron和arXiv等真实数据集上的后验预测检查，展示模型的实用性。

提出的方法

• 提出结构化交互数据及可交换结构化交互过程的正式定义，建立理论基础。
• 引入分层顶点成分模型（HVCM）作为典型子族，通过共享全局潜在分布实现局部池化。
• 推导出一种计算高效的吉布斯采样算法，用于后验推断，实现可扩展的模型拟合。
• 采用后验预测检查验证真实数据集上的模型拟合效果，通过预测复制评估拟合优度。
• 使用香农熵量化多标签网络（如arXiv）中的主题重叠，从而解释潜在聚类结构。
• 对主题重叠矩阵应用谱聚类，揭示arXiv数据集中学术学科的可解释分组。

实验结果

研究问题

• RQ1 分层边交换模型能否同时捕捉每个发件人的局部幂律度行为以及全局网络的稀疏性和幂律度分布？
• RQ2 通过共享全局分布实现的局部池化，相较于非分层模型，如何提升对结构化交互数据的建模能力？
• RQ3 所提出的HVCM在Enron和arXiv等真实世界交互数据集上能达到多好的后验预测拟合效果？
• RQ4 该模型能否在多标签网络数据（如学术出版物中的跨学科主题簇）中揭示有意义的潜在分组？
• RQ5 与不进行潜在建模的共现网络直接谱聚类相比，该模型的性能如何？

主要发现

• 所提出的HVCM实现了全局稀疏性和幂律度分布，理论保证支持了这些经验网络特性。
• 后验预测检查证实该模型在Enron电子邮件数据集和arXiv数据集上均具有极强的拟合效果，展现出对现实世界复杂性的鲁棒性。
• 通过在主题重叠矩阵上应用谱聚类，该模型成功识别出arXiv数据集中的可解释主题簇，如核心计算机科学、物理学和人工智能相关群体。
• 最高主题重叠得分（如stat.ME与stat.CO之间的0.509）对应于直观的跨学科配对，验证了模型的可解释性。
• 由于对交互结构进行了潜在建模，HVCM在揭示更合理且一致的分组方面优于对共现网络的直接谱聚类。
• 吉布斯采样算法实现了高效的推断，使该模型能够可扩展地应用于具有结构化标签的大规模交互网络。