[論文レビュー] Semantic Document Distance Measures and Unsupervised Document Revision Detection

Xiaofeng Zhu, Diego Klabjan+1 more|arXiv (Cornell University)|Sep 5, 2017

Web Data Mining and Analysis参考文献 7被引用数 3

ひとこと要約

本稿では、教師なし文書改訂検出の精度を向上させるために、2つの新しい意味的文書距離測定法、ワードベクトルベースの動的時系列適合（wDTW）およびワードベクトルベースの木編集距離（wTED）を提案する。word2vec埋め込みを活用し、Apache Sparkを用いた最小コストの分岐問題として改訂検出を定式化することで、従来の最先端手法（例：ワードムーバーズ距離（WMD））よりも高い正確性と再現率を達成するとともに、大規模コーパス上での計算時間を大幅に短縮した。

ABSTRACT

In this paper, we model the document revision detection problem as a minimum cost branching problem that relies on computing document distances. Furthermore, we propose two new document distance measures, word vector-based Dynamic Time Warping (wDTW) and word vector-based Tree Edit Distance (wTED). Our revision detection system is designed for a large scale corpus and implemented in Apache Spark. We demonstrate that our system can more precisely detect revisions than state-of-the-art methods by utilizing the Wikipedia revision dumps https://snap.stanford.edu/data/wiki-meta.html and simulated data sets.

研究の動機と目的

• 従来の文書類似度測定法（例：フィンガープrint、Levenshtein距離、VSM）が意味的意味を捉えることやスケーラビリティに欠けるという限界を是正すること。
• WMDなど既存手法を上回る正確性と効率性を備えた、スケーラブルで意味的認識を持つ文書距離測定法の開発。
• 文書距離スコアをアーク重みとして用い、文書改訂検出を最小コスト分岐問題としてモデル化することで、ネットワークベースの改訂関係推論を効率的に行う。
• Wikipediaの改訂ダンプおよびシミュレートされたデータセットを用いてシステムを実装・評価し、実世界の設定において堅牢性とスケーラビリティを示した。

提案手法

• 意味的意味を捉えるために、事前学習済みのword2vec埋め込みを用いて単語を表現し、静的単語表現を置き換える。
• ワードベクトル類似度を基本距離測定法として用い、段落レベルの表現比較を通じて文書距離を計算する。その際、動的時系列適合（DTW）および木編集距離（TED）を用いる。
• 文書改訂検出を有向グラフ上の最小コスト分岐問題としてモデル化し、ノードを文書、エッジ重みを意味的距離とする。
• 文書距離計算を段落レベルの比較に分割し、Apache Sparkを用いて処理を分散化することで並列処理とスケーラビリティを実現する。
• 段落レベル類似度を計算するための新規距離関数DistParaを導入。単語ベクトルの連結に基づくアプローチにより、段落ベクトル間のユークリッド距離を上回る精度を実現。
• 最小分岐アルゴリズムを適用し、大規模コーパス全体における最適な改訂ネットワークを推定し、最も可能性の高い改訂履歴を同定する。

実験結果

リサーチクエスチョン

• RQ1 ワード埋め込みに基づく意味的文書距離測定法は、従来の手法と比較して、教師なし文書改訂検出の正確性を向上させることができるか？
• RQ2 wDTWおよびwTEDは、大規模文書コーパス上でのWMD、VSM、PVベース手法と比較して、性能および効率性において優れているか？
• RQ3 最小コスト分岐定式化は、教師なし条件下で文書類似度スコアから改訂ネットワークを効果的に再構築できるか？
• RQ4 Apache Sparkを用いた段落レベルでの並列処理により、実行時間の大幅な短縮を達成しながらも、高い正確性を維持できるか？
• RQ5 コーパスサイズおよび改訂チェーン長が増加する際、wDTWおよびwTEDの性能はどのように変化するか？

主な発見

• wDTWはWikipedia改訂ダンプで最高のF-measure（0.85）を達成し、WMD、VSM、PVベース手法と比較して、正確性と再現率の両面で一貫して優れた性能を示した。
• wTEDはwDTWに比べ14％の短い実行時間で、高い正確性を維持しながらも、より効率的な代替手段であることが示された。
• シミュレートされたデータセットでは、wDTWはコーパスサイズの増加に対しても安定した性能を維持したが、WMDおよびVSMはより早く性能劣化を示した。
• wDTWおよびwTEDは、WMDがWikipediaダンプで515時間も要したのに対し、wDTWは13時間27分で完了し、実行時間を90％以上短縮した。
• DistPara距離関数は、段落ベクトル間のユークリッド距離を上回る精度を実現した。比較実験において、F-measureスコアの向上が確認された。
• Apache Sparkを用いた分散処理により、システムは効果的にスケーリングされ、WMDが数日を要したのに対し、wDTWでは数時間で処理が完了した。