[论文解读] Wikipedia Edit Number Prediction based on Temporal Dynamics Only

Dell Zhang|arXiv (Cornell University)|Oct 23, 2011

Wikis in Education and Collaboration参考文献 14被引用 3

一句话总结

本文提出了一种自监督机器学习方法，仅利用时间动态特征（如编辑频率和活跃时长）在多个时间尺度上预测维基百科编辑者的未来编辑次数。该方法名为“zeditor”，在维基百科参与挑战赛中相较于WMF的基线模型提升了41.7%，并获得第三名，表明仅依靠时间模式即可实现强大的预测性能，而无需依赖语义或上下文特征。

ABSTRACT

In this paper, we describe our approach to the Wikipedia Participation Challenge which aims to predict the number of edits a Wikipedia editor will make in the next 5 months. The best submission from our team, "zeditor", achieved 41.7% improvement over WMF's baseline predictive model and the final rank of 3rd place among 96 teams. An interesting characteristic of our approach is that only temporal dynamics features (i.e., how the number of edits changes in recent periods, etc.) are used in a self-supervised learning framework, which makes it easy to be generalised to other application domains.

研究动机与目标

• 仅基于历史编辑模式，预测维基百科编辑者在未来5个月内将进行的编辑次数。
• 开发一种可泛化的预测模型，完全依赖时间动态特征，避免使用语义或上下文特征。
• 在维基百科参与挑战赛中超越WMF的基线模型，该挑战赛旨在支持维基百科社区的可持续发展。
• 探索编辑行为动态中的早期信号是否能够预示未来的不活跃或脱离行为。
• 证明该方法在其他涉及序列行为预测的领域中的可迁移性。

提出的方法

• 采用自监督学习框架，通过将预测窗口向后移动5个月，从历史编辑数据中自动生成标签。
• 目标变量定义为 $ y_i = \log(1 + a_i) $，其中 $ a_i $ 为未来5个月内实际的编辑次数，使损失函数与RMSLE评估指标直接对齐。
• 在10个特定时间尺度上提取时间动态特征：$ \frac{1}{16}, \frac{1}{8}, \frac{1}{4}, \frac{1}{2}, 1, 2, 4, 12, 36, 108 $ 个月，以捕捉不同时间间隔内的编辑频率和文章级别活跃度。
• 在这些特征上训练梯度提升树（GBT）模型，通过验证集和扩展的“moredata”集对超参数进行调优，以提升泛化能力。
• 使用RMSLE进行模型评估，最终提交使用在“moredata”集上确定的最优GBT配置。
• 该方法避免了人工标注，完全依赖编辑行为的时间演化，因此可推广至其他序列行为预测任务。

实验结果

研究问题

• RQ1 能否仅使用时间动态特征（不依赖语义或上下文特征）构建未来维基百科编辑次数的预测模型？
• RQ2 近期编辑行为的时间模式在多大程度上与未来的编辑活动相关？
• RQ3 在缺乏外部标注的情况下，自监督学习框架能否有效从历史数据中生成标签，以训练出准确的预测模型？
• RQ4 不同时间尺度如何影响模型的预测性能？
• RQ5 该方法能否泛化至其他涉及序列用户行为预测的领域，如消费者支出或患者入院预测？

主要发现

• ‘zeditor’模型在私有排行榜上取得了0.862582的RMSLE得分，相较于WMF基线模型提升了41.7%。
• 在维基百科参与挑战赛中，该模型在96支队伍中排名第三，表现出色，且特征工程极少。
• 特征提取的最优时间周期数为10个，在“moredata”集上该配置下性能达到峰值。
• 该模型在不同数据划分下表现稳定，使用10个周期时，'validation'集的RMSLE为0.8187，'moredata'集为0.6135。
• 仅使用时间动态特征（如多时间窗口的编辑频率和对数尺度的活跃时长）即可实现高预测精度。
• 结果表明，编辑行为动态中的早期信号可可靠地预示未来的不活跃状态，即使缺乏内容或社交上下文信息。