[论文解读] Wikipedia graph mining: dynamic structure of collective memory

Volodymyr Miz, Kirell Benzi+2 more|arXiv (Cornell University)|Oct 1, 2017

Wikis in Education and Collaboration参考文献 19被引用 6

一句话总结

本文提出一种基于霍普菲尔德网络的模型，利用维基百科的动态访问活动与超链接结构，提取并回忆集体记忆。通过将改进的赫布学习规则应用于时间序列页面浏览数据，该方法将相关文章的聚类识别为记忆模式，在部分输入数据下对查理周刊袭击事件等事件仍能达到高达90%的召回准确率。

ABSTRACT

Wikipedia is the biggest encyclopedia ever created and the fifth most visited website in the world. Tens of millions of people surf it every day, seeking answers to various questions. Collective user activity on its pages leaves publicly available footprints of human behavior, making Wikipedia an excellent source for analysis of collective behavior. In this work, we propose a distributed graph-based event extraction model, inspired by the Hebbian learning theory. The model exploits collective effect of the dynamics to discover events. We focus on data-streams with underlying graph structure and perform several large-scale experiments on the Wikipedia visitor activity data. We show that the presented model is scalable regarding time-series length and graph density, providing a distributed implementation of the proposed algorithm. We extract dynamical patterns of collective activity and demonstrate that they correspond to meaningful clusters of associated events, reflected in the Wikipedia articles. We also illustrate evolutionary dynamics of the graphs over time to highlight changing nature of visitors' interests. Finally, we discuss clusters of events that model collective recall process and represent collective memories - common memories shared by a group of people.

研究动机与目标

• 使用神经网络理论的原理，对维基百科等大规模协作知识库中的集体记忆形成进行建模。
• 解决传统上依赖有偏自报数据而缺乏通用、数据驱动的集体记忆形成模型的问题。
• 开发一种可扩展的无监督方法，从维基百科的动态图结构和访问日志中提取时间上一致的记忆模式。
• 证明可通过内容可寻址记忆系统高精度地学习和回忆集体记忆。
• 通过稳健的分布式图算法，实现实时或近实时分析公众兴趣随时间的变化。

提出的方法

• 以每小时的维基百科页面浏览日志和超链接网络作为输入，用于建模集体记忆的动力学。
• 在维基百科图上应用改进的赫布学习规则，页面访问的共现行为会增强相关文章之间的连接强度。
• 构建一个霍普菲尔德网络，其中每个记忆模式对应于特定事件期间被激活的一组语义相关的维基百科页面聚类。
• 通过在每月的维基百科图和访问活动快照上训练网络，实现无监督学习。
• 使用 Apache Spark GraphX 实现分布式计算，以实现对大规模维基百科数据的可扩展处理。
• 采用内容可寻址记忆回忆机制：给定部分激活模式（例如，20% 数据缺失），模型可重建完整的事件聚类。

实验结果

研究问题

• RQ1 集体记忆模式能否从维基百科页面访问与超链接结构的动态交互中自然涌现？
• RQ2 霍普菲尔德网络模型在部分或噪声较多的访问活动数据下，对基于事件的记忆聚类重建的准确度如何？
• RQ3 页面浏览的时间动态与引发公众好奇的真实世界事件之间有何关联？
• RQ4 应用于维基百科图结构的改进赫布学习规则，能否自组织为内容可寻址记忆系统？
• RQ5 在不同水平的输入数据退化下，该模型的鲁棒性与召回准确率如何？

主要发现

• 该模型成功识别出与查理周刊袭击等真实世界事件对应的集体记忆模式，相关文章聚类在页面浏览量上表现出同步的激增。
• 在输入数据缺失20%的情况下，重建事件模式的召回准确率最高可达90%，显示出强大的鲁棒性。
• 在事件的72小时峰值活动窗口内，模型的召回准确率高于长达7个月的时间跨度，原因在于减少了孤立或低活跃度页面带来的噪声。
• 采用宽松的召回度量标准（仅需输出中有一个激活）时性能更优，表明模型有效捕捉了核心事件动态。
• 该方法对超参数调优表现出高度鲁棒性，表明其在实际应用中的实用性。
• 基于 Apache Spark GraphX 的分布式实现可高效处理大规模维基百科数据，支持实时或近实时分析。