[论文解读] Semantic Document Distance Measures and Unsupervised Document Revision Detection

Xiaofeng Zhu, Diego Klabjan+1 more|arXiv (Cornell University)|Sep 5, 2017

Web Data Mining and Analysis参考文献 7被引用 3

一句话总结

本文提出了两种新颖的语义文档距离度量方法——基于词向量的动态时间规整（wDTW）与基于词向量的树编辑距离（wTED），以改进无监督文档修订检测。通过利用 word2vec 嵌入表示并将在 Apache Spark 中建模为最小代价分支问题，该方法在大规模语料上实现了比当前最先进方法（如 Word Mover's Distance, WMD）更高的精确率与召回率，同时显著降低了计算时间。

ABSTRACT

In this paper, we model the document revision detection problem as a minimum cost branching problem that relies on computing document distances. Furthermore, we propose two new document distance measures, word vector-based Dynamic Time Warping (wDTW) and word vector-based Tree Edit Distance (wTED). Our revision detection system is designed for a large scale corpus and implemented in Apache Spark. We demonstrate that our system can more precisely detect revisions than state-of-the-art methods by utilizing the Wikipedia revision dumps https://snap.stanford.edu/data/wiki-meta.html and simulated data sets.

研究动机与目标

• 解决传统文档相似度度量方法（如指纹匹配、Levenshtein 距离、VSM）在捕捉语义含义与可扩展性方面的局限性。
• 开发可扩展的、具备语义感知能力的文档距离度量方法，使其在准确率与效率方面均优于现有方法（如 WMD），适用于大规模修订检测。
• 将文档修订检测建模为有向图中的最小代价分支问题，其中节点为文档，边权重为语义距离，以实现基于网络的修订关系推断。
• 在 Wikipedia 修订数据集与模拟数据集上实现并评估系统，证明其在真实场景下的鲁棒性与可扩展性。

提出的方法

• 使用预训练的 word2vec 嵌入表示来捕捉语义信息，替代静态词表示。
• 通过比较段落级表示来计算文档距离，采用动态时间规整（DTW）与树编辑距离（TED），并以词向量相似度作为基础距离度量。
• 将文档修订检测建模为有向图中的最小代价分支问题，其中节点为文档，边权重为语义距离。
• 将文档距离计算分解为段落级比较，并利用 Apache Spark 分布式处理，以实现并行化与可扩展性。
• 提出一种新型距离函数 DistPara，基于词向量拼接计算段落级相似度，相较于段落向量之间的欧氏距离，显著提升了准确率。
• 应用最小分支算法推断最优修订网络，识别大规模语料中最具可能的修订历史。

实验结果

研究问题

• RQ1 基于词嵌入的语义文档距离度量是否能相比传统方法提升无监督文档修订检测的准确率？
• RQ2 在大规模文档语料上，wDTW 与 wTED 相较于 Word Mover’s Distance (WMD)、VSM 与 PV 基方法，在性能与效率方面表现如何？
• RQ3 最小代价分支建模能否在无监督条件下有效从文档相似度得分重建修订网络？
• RQ4 在 Apache Spark 中通过并行处理在段落级别计算距离，是否能在显著降低运行时间的同时保持高准确率？
• RQ5 随着语料规模与修订链长度的增加，wDTW 与 wTED 的表现如何？

主要发现

• wDTW 在 Wikipedia 修订数据集上取得了最高的 F1 值（0.85），并在精确率与召回率方面持续优于 WMD、VSM 与基于 PV 的方法。
• wTED 表现优异，运行时间比 wDTW 低 14%，在保持高准确率的同时提供了更高效的替代方案。
• 在模拟数据集上，wDTW 在语料规模增大时保持了稳定的性能，而 WMD 与 VSM 的性能下降更为迅速。
• 与 WMD 相比，wDTW 与 wTED 将运行时间减少了 90%以上；WMD 在 Wikipedia 数据集上耗时 515 小时，而 wDTW 仅用时 13 小时 27 分钟。
• DistPara 距离函数在段落向量之间欧氏距离的基础上提升了准确率，实验表明其 F1 值表现更优。
• 系统在 Apache Spark 上实现了有效扩展，将大规模语料的计算时间从 WMD 的数天缩短至 wDTW 的数小时。