[论文解读] Supervised Blockmodelling

Leto Peel|arXiv (Cornell University)|Sep 25, 2012

Complex Network Analysis Techniques参考文献 18被引用 5

一句话总结

本文提出监督块模型（supervised blockmodelling），通过从链接结构中学习可解释的角色交互模式，改进网络中的节点分类。该方法采用三种变体——标准SBM、单重成员块模型和混合成员块模型，其中混合成员块模型在计算成本更高的情况下表现最优，且所有模型在异质网络中均优于标准SBM。

ABSTRACT

Collective classification models attempt to improve classification performance by taking into account the class labels of related instances. However, they tend not to learn patterns of interactions between classes and/or make the assumption that instances of the same class link to each other (assortativity assumption). Blockmodels provide a solution to these issues, being capable of modelling assortative and disassortative interactions, and learning the pattern of interactions in the form of a summary network. The Supervised Blockmodel provides good classification performance using link structure alone, whilst simultaneously providing an interpretable summary of network interactions to allow a better understanding of the data. This work explores three variants of supervised blockmodels of varying complexity and tests them on four structurally different real world networks.

研究动机与目标

• 解决集体分类方法因假设同质性而无法建模类内异质交互模式的局限性。
• 开发一种监督块模型框架，利用网络结构提升分类性能，同时提供节点角色交互的可解释性总结。
• 在多种真实世界网络中，比较三种监督块模型变体——标准SBM、单重成员模型和混合成员模型——以评估性能与计算成本的权衡。
• 展示所学习的块模型结构如何实现对关系数据中类-角色关系和交互模式的可解释性分析。

提出的方法

• 提出一种基于随机块模型的监督块模型框架，通过链接结构推断网络角色，并用于预测节点类别标签。
• 提出一种折叠变分贝叶斯推断方法，采用高效的更新方程，避免吉布斯采样收敛缓慢的问题，以及标准变分推断中计算昂贵的Digamma函数求值。
• 开发三种模型：(1) 标准SBM，其中角色与类别相同；(2) 监督单重成员块模型（SSMB），允许每个类别对应多个角色；(3) 监督混合成员块模型（SMMB），允许节点以Softmax概率属于多个角色。
• 使用共轭梯度优化方法估计混合成员模型中的Softmax参数，实现灵活的角色分配。
• 采用生成过程：节点角色从狄利克雷先验中抽取，边的概率根据角色对从Beta分布中抽取。
• 在四个真实世界网络——Cora、David、News和Weddell——上应用模型，通过网络内分类评估不同结构特性的性能表现。

实验结果

研究问题

• RQ1 通过建模网络角色之间的交互模式而非假设类别同质性，监督块模型是否能提升节点分类性能？
• RQ2 在具有异质交互模式的网络中，单重成员和混合成员块模型相较于标准SBM，在性能和可解释性方面表现如何？
• RQ3 监督块模型的单重成员与混合成员变体之间，计算成本与性能的权衡关系如何？
• RQ4 所学习的块模型结构在多大程度上能揭示类-角色关系和角色交互网络中的可解释模式？

主要发现

• 在存在类别内交互异质性的News和Weddell网络中，监督混合成员块模型（SMMB）实现了最高的分类性能。
• 在高度同质的Cora网络和异质的David网络中，标准SBM与更复杂的模型表现相当，表明在同质设置下增加复杂性并无显著优势。
• 在Weddell数据集上，单重成员模型（SSMB）优于混合成员模型，尽管其方差更高，表明准确率与稳定性之间存在权衡。
• 由于通过共轭梯度法估计Softmax参数的计算成本较高，混合成员模型的运行时间显著长于单重成员模型。
• 从SMMB模型导出的汇总网络揭示了可解释的模式，例如角色共现链（如4-2-5-1）和方向性偏好（如副词仅与动词相连）。
• 角色分布的分析表明，某些角色与特定类别稳定关联——例如，角色1和2主要为动词，角色7和9与名词相关。