[论文解读] Joint Inference of Multiple Label Types in Large Networks

Deepayan Chakrabarti, Stanislav Funiak+2 more|arXiv (Cornell University)|Jan 30, 2014

Advanced Graph Neural Networks参考文献 22被引用 22

一句话总结

该论文提出 EdgeExplain，一种可扩展的方法，用于在大规模网络中联合推断多种高维标签类型（例如，家乡、当前城市、雇主）；通过将边的形成建模为与共享标签值相关的特定原因。与标准标签传播不同，EdgeExplain 显式考虑了标签类型的属性，并采用基于梯度的推断，使在十亿个节点的 Facebook 图子集中，召回率@1 提高最多 120%，召回率@3 提高 60%。

ABSTRACT

We tackle the problem of inferring node labels in a partially labeled graph where each node in the graph has multiple label types and each label type has a large number of possible labels. Our primary example, and the focus of this paper, is the joint inference of label types such as hometown, current city, and employers, for users connected by a social network. Standard label propagation fails to consider the properties of the label types and the interactions between them. Our proposed method, called EdgeExplain, explicitly models these, while still enabling scalable inference under a distributed message-passing architecture. On a billion-node subset of the Facebook social network, EdgeExplain significantly outperforms label propagation for several label types, with lifts of up to 120% for recall@1 and 60% for recall@3.

研究动机与目标

• 为解决标准标签传播在大规模网络中推断多种高维标签类型（例如，家乡、当前城市、雇主）的局限性。
• 建模边形成背后的潜在原因（如共享家乡或工作单位），而非将标签视为独立属性。
• 开发一种可扩展的分布式推断方法，联合推理多种标签类型，同时尊重其独特的属性。
• 通过实证验证，建模边的解释可提高准确率，尤其在标签类型相关性和重叠社区的情况下。
• 在真实世界十亿个节点的社交网络数据集上，展示该方法的有效性和可扩展性。

提出的方法

• EdgeExplain 将每条边视为由跨标签类型的共享标签值解释，将边的形成视为标签相似性的结果。
• 将推断问题表述为优化一个可微分的目标函数，该函数在标签一致性与边解释之间取得平衡，使用基于梯度的迭代更新规则。
• 该方法整合了三个关键网络属性：边的形成有其原因（P1），通常由单一标签类型解释（P2），且共享标签是边存在的必要条件但非充分条件（P3）。
• 通过分布式消息传递架构实现推断，实现与图规模成线性关系的可扩展性，性能与基本标签传播相当。
• 模型使用参数 α 控制每种标签类型的解释强度，最优性能在 α ∈ [10, 40] 范围内观察到。
• 通过基于邻居节点间共享值的解释力，迭代更新标签概率，联合推断所有标签类型。

实验结果

研究问题

• RQ1 建模边形成的原因（如共享家乡或雇主）是否能相比标准标签传播，提升多种标签类型的联合推断性能？
• RQ2 标签类型的不同属性（如稀疏性、相关性）如何影响大规模网络中联合推断的性能？
• RQ3 边解释在多大程度上减少了对重叠聚类或群体成员身份等辅助结构的依赖？
• RQ4 控制每种标签类型解释权重的参数 α 如何影响推断的准确率和鲁棒性？
• RQ5 在真实网络中，用户朋友中至少需要多少比例共享某一标签值，才能实现该标签的可靠推断？

主要发现

• 在 Facebook 社交网络的十亿个节点子集上，EdgeExplain 的召回率@1 最高比标签传播高出 120%，召回率@3 高出 60%。
• 即使在标签传播使用 K=100 个邻居的情况下，EdgeExplain 仍显著优于其表现，表明性能提升源于对边解释的建模，而非仅可扩展性。
• 当用户朋友中仅有 10–15% 共享同一标签值（如高中或雇主）时，EdgeExplain 即可在前 3 名预测中正确推断出该标签。
• 模型对 α 的选择具有鲁棒性，最优性能出现在 α ∈ [10, 40] 范围内，验证了单原因边解释（P2）的重要性。
• 用户真实标签与朋友中共享该标签的比例，是推断成功的重要预测因子，当比例超过 20% 后性能趋于平缓。
• 即使在排除群体成员身份（如俱乐部或社区）的情况下，模型性能依然强劲，表明边解释已捕获足够结构信息，无需冗余聚类。