[論文レビュー] Detecting Cross-Lingual Plagiarism Using Simulated Word Embeddings

Victor U. Thompson|arXiv (Cornell University)|Dec 29, 2017

Topic Modeling参考文献 21被引用数 3

ひとこと要約

本稿では、オンライン翻訳APIに依存せずに、Google Translateの出力を模倣するシミュレーテッド単語埋め込みモデルを提案する。翻訳語とその対義語を共有埋め込み空間にマッピングすることで、標準的なCLPデータセットにおいて最先端の性能を達成し、リアルタイム機械翻訳（T+MAモデル）を用いたベースラインを上回る。

ABSTRACT

Cross-lingual plagiarism (CLP) occurs when texts written in one language are translated into a different language and used without acknowledging the original sources. One of the most common methods for detecting CLP requires online machine translators (such as Google or Microsoft translate) which are not always available, and given that plagiarism detection typically involves large document comparison, the amount of translations required would overwhelm an online machine translator, especially when detecting plagiarism over the web. In addition, when translated texts are replaced with their synonyms, using online machine translators to detect CLP would result in poor performance. This paper addresses the problem of cross-lingual plagiarism detection (CLPD) by proposing a model that uses simulated word embeddings to reproduce the predictions of an online machine translator (Google translate) when detecting CLP. The simulated embeddings comprise of translated words in different languages mapped in a common space, and replicated to increase the prediction probability of retrieving the translations of a word (and their synonyms) from the model. Unlike most existing models, the proposed model does not require parallel corpora, and accommodates multiple languages (multi-lingual). We demonstrated the effectiveness of the proposed model in detecting CLP in standard datasets that contain CLP cases, and evaluated its performance against a state-of-the-art baseline that relies on online machine translator (T+MA model). Evaluation results revealed that the proposed model is not only effective in detecting CLP, it outperformed the baseline. The results indicate that CLP could be detected with state-of-the-art performances by leveraging the prediction accuracy of an internet translator with word embeddings, without relying on internet translators.

研究の動機と目的

• オンライン機械翻訳機のスケーラビリティと依存性の問題を解決すること。
• リアルタイム翻訳サービスに依存することを排除することで、大規模な文書比較において遅く信頼性の低い翻訳を回避すること。
• トレーニングに並列コーパスを必要としない多言語CLPDモデルの開発。
• 翻訳テキストに対して対義語置換が施された場合の検出性能の向上。
• オンライン翻訳機の動作を模倣するシミュレーテッド埋め込みを用いて、最先端のCLPD結果を達成すること。

提案手法

• モデルは単語と複数言語間での翻訳語を共有ベクトル空間にマッピングするように、単語コーパスで訓練することで、シミュレーテッド単語埋め込みを生成する。
• 翻訳語ベクトルとその対義語を埋め込み空間に複製することで予測確率を向上させ、検索精度を向上させる。
• 事前学習済み単語埋め込み（例：Word2VecやGloVe）を活用し、並列文のペairを必要とせずに翻訳マッピングを実行する。
• 共有埋め込み空間における最近傍検索を用いて、潜在的な模造翻訳を同定する。
• 対義語置換は、埋め込み空間に対義語ベクトルを含めることで、検出の耐性を維持する。
• 推論時に正しい翻訳語と対義語を検出する可能性を最大化するように、エンドツーエンドでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 シミュレーテッド埋め込みモデルは、Google Translateのようなオンライン機械翻訳機の予測的挙動をCLPDにおいて再現できるか？
• RQ2 本稿で提案するモデルは、リアルタイム翻訳に依存するベースライン（T+MAモデル）と比較して、多言語間プラグリアズム検出でどの程度の性能を示すか？
• RQ3 翻訳テキストが対義語置換によって変更された場合、モデルはどの程度の検出能力を示せるか？
• RQ4 並列コーパスやオンライン翻訳APIにアクセスできない状況でも、モデルは高い検出正確性を達成できるか？
• RQ5 複数の言語ペアにわたる多言語環境において、モデルの有効性はどの程度か？

主な発見

• 提案モデルは、標準ベンチマークデータセットにおいて、T+MAベースラインモデルを上回る多言語間プラグリアズム検出性能を示した。
• オンライン翻訳サービスへのアクセスを必要とせず、CLPD分野で最先端の性能を達成した。
• 翻訳語と対義語の複製埋め込みを用いることで、対義語置換下でも検出の耐性が著しく向上した。
• 複数言語にわたる一般化能力が強く示され、多言語処理能力が裏付けられた。
• シミュレーテッド埋め込みはGoogle Translateの翻訳挙動を効果的に模倣し、APIコールなしで正確な検出を可能にした。
• 評価結果から、翻訳コンテンツが言い換えられたり対義語置換されたりしても、モデルが高い精度と再現率を維持することが確認された。