[论文解读] Probabilistic Generative Model of Social Network Based on Web Features

Mahyuddin K. M. Nasution, Shahrul Azman Mohd Noah|arXiv (Cornell University)|Jul 17, 2012

Advanced Text Analysis Techniques参考文献 27被引用 7

一句话总结

本文提出了一种概率生成模型，通过搜索摘要、URL 和命名实体等网络特征构建社交网络。通过使用贝叶斯推断和期望最大化算法对潜在主题建模关系，该模型能够从非结构化网络数据中实现动态的、基于属性的社交网络发现。

ABSTRACT

In this paper, we develop a dynamic framework for the modeling and analysis of social networks to work with web documents. We illustrate the model with features of web, design a form to analyze relationships of attributes as a modality of social structure, and create the optimization of generative model based on Bayes Theorem.

研究动机与目标

• 开发一种基于网络文档和特征的动态生成框架，用于建模社交网络。
• 将网络摘要、命名实体和词频整合到社会结构的概率模型中。
• 通过从搜索结果中的词簇派生的潜在主题来建模行动者之间的关系。
• 使用贝叶斯定理和期望最大化算法优化生成模型。
• 实现在不依赖显式链接或元数据的情况下，从未结构化网络数据中推断社交网络。

提出的方法

• 将社交网络建模为文档、行动者（姓名）和词语的联合概率分布，使用潜在主题 $ z \in \mathcal{Z} $。
• 采用由 $ P(S,a,w) = \sum_{z \in \mathcal{Z}} P(z)P(S|z)P(w|z)P(a|z) $ 定义的生成模型，其中 $ S $ 为摘要列表，$ a $ 为行动者，$ w $ 为词语。
• 使用贝叶斯推断估计来自网络搜索结果的条件概率 $ P(w|a) $、$ P(w|S) $ 和 $ P(a|z) $。
• 应用期望最大化（EM）算法，从网络摘要和命名实体出现情况中学习模型参数。
• 将每个行动者的上下文表示为来自搜索摘要的词袋，通过主题建模识别潜在属性。
• 引入单重词和双词项作为特征，以增强网络中的相似性和关系建模。

实验结果

研究问题

• RQ1 如何从未结构化的网络文档和搜索引擎摘要中推断社交网络关系？
• RQ2 何种概率框架能够使用潜在主题对行动者、词语和文档的联合分布进行建模？
• RQ3 贝叶斯推断和 EM 优化如何提升从网络特征中重建社交网络的准确性？
• RQ4 网络摘要和命名实体出现情况在建模行动者属性和社会关系方面发挥何种作用？
• RQ5 从词簇派生的潜在主题能否有效表示社会结构和关系？

主要发现

• 所提出的模型成功地将社交网络表示为基于潜在主题的文档、行动者和词语的生成过程。
• 联合概率模型 $ P(S,a,w) = \sum_{z} P(z)P(S|z)P(w|z)P(a|z) $ 通过共享主题实现了对行动者关系的推断。
• 网络摘要被建模为词袋，条件概率 $ P(w|a) $ 和 $ P(w|S) $ 捕捉了特定上下文中的行动者-词语关联。
• 从摘要中词簇派生的潜在变量 $ z $ 作为社会属性和角色的代理，实现了基于主题的行动者聚类。
• 该框架通过在网络内容中链接共享主题和词语共现模式的行动者，支持动态网络构建。
• 该模型通过 EM 算法进行参数化和优化，其理论基础建立在贝叶斯概率和主题建模之上。