[论文解读] Detecting Cross-Lingual Plagiarism Using Simulated Word Embeddings

Victor U. Thompson|arXiv (Cornell University)|Dec 29, 2017

Topic Modeling参考文献 21被引用 3

一句话总结

本文提出了一种模拟词嵌入模型，通过模拟 Google 翻译的输出来实现跨语言抄袭检测（CLPD），而无需依赖在线翻译 API。通过将翻译后的词语及其同义词映射到共享嵌入空间，该模型在标准 CLP 数据集上实现了最先进性能，优于依赖实时机器翻译的基线模型（T+MA 模型）。

ABSTRACT

Cross-lingual plagiarism (CLP) occurs when texts written in one language are translated into a different language and used without acknowledging the original sources. One of the most common methods for detecting CLP requires online machine translators (such as Google or Microsoft translate) which are not always available, and given that plagiarism detection typically involves large document comparison, the amount of translations required would overwhelm an online machine translator, especially when detecting plagiarism over the web. In addition, when translated texts are replaced with their synonyms, using online machine translators to detect CLP would result in poor performance. This paper addresses the problem of cross-lingual plagiarism detection (CLPD) by proposing a model that uses simulated word embeddings to reproduce the predictions of an online machine translator (Google translate) when detecting CLP. The simulated embeddings comprise of translated words in different languages mapped in a common space, and replicated to increase the prediction probability of retrieving the translations of a word (and their synonyms) from the model. Unlike most existing models, the proposed model does not require parallel corpora, and accommodates multiple languages (multi-lingual). We demonstrated the effectiveness of the proposed model in detecting CLP in standard datasets that contain CLP cases, and evaluated its performance against a state-of-the-art baseline that relies on online machine translator (T+MA model). Evaluation results revealed that the proposed model is not only effective in detecting CLP, it outperformed the baseline. The results indicate that CLP could be detected with state-of-the-art performances by leveraging the prediction accuracy of an internet translator with word embeddings, without relying on internet translators.

研究动机与目标

• 解决在线机器翻译器在跨语言抄袭检测（CLPD）中面临的可扩展性和依赖性问题。
• 消除对实时翻译服务的依赖，这些服务在大规模文档比对中速度慢且不可靠。
• 开发一种无需平行语料库进行训练的多语言 CLPD 模型。
• 在翻译文本中应用同义词替换时，提升检测性能。
• 通过模拟嵌入实现最先进水平的 CLPD 结果，这些嵌入模仿在线翻译器的行为。

提出的方法

• 该模型通过在单语语料库上进行训练，将多种语言中的词语及其翻译映射到共享向量空间，生成模拟词嵌入。
• 通过在嵌入空间中复制翻译词语向量及其同义词，提升预测概率，从而提高检索准确性。
• 该方法利用预训练词嵌入（如 Word2Vec 或 GloVe），并应用翻译映射，无需平行句子对。
• 该模型在共享嵌入空间中使用最近邻搜索，识别潜在的抄袭翻译。
• 同义词替换通过在嵌入空间中包含同义词向量来处理，以保持检测的鲁棒性。
• 系统端到端训练，以在推理过程中最大化正确翻译和同义词检索的可能性。

实验结果

研究问题

• RQ1 模拟嵌入模型能否复现类似 Google 翻译等在线机器翻译器在 CLPD 中的预测行为？
• RQ2 与依赖实时翻译的基线模型（T+MA 模型）相比，所提出的模型在跨语言抄袭检测中的表现如何？
• RQ3 当翻译文本经过同义词替换修改时，该模型的检测能力在多大程度上仍有效？
• RQ4 该模型是否能在不访问平行语料库或在线翻译 API 的情况下实现高检测准确率？
• RQ5 该模型在多种语言对的多语言环境中有多高效？

主要发现

• 所提出的模型在标准基准数据集上的跨语言抄袭检测中优于 T+MA 基线模型。
• 该模型在无需访问在线翻译服务的情况下实现了最先进水平的 CLPD 性能。
• 对翻译结果和同义词使用复制嵌入显著提升了在同义词替换下的检测鲁棒性。
• 该模型在多种语言间表现出强大的泛化能力，证实了其多语言能力。
• 模拟嵌入成功模拟了 Google 翻译的翻译行为，实现了无需 API 调用的准确检测。
• 评估结果证实，即使翻译内容被改写或同义词替换，该模型仍能保持高精确率和高召回率。