[論文レビュー] The UN Parallel Corpus Annotated for Translation Direction

Elad Tolochinsky, Ohad Mosafi+2 more|ArXiv.org|May 20, 2018

Natural Language Processing Techniques参考文献 3被引用数 6

ひとこと要約

本論文は、UN Parallel Corpusから手動でアノテートされた並列コーパスを紹介し、翻訳方向（オリジナル対訳文）を識別するための教師あり分類アプローチを用いる。複数の言語対に対して95％の正確度に達し、自然言語処理研究における貴重なリソースを提供する。

ABSTRACT

This work distinguishes between translated and original text in the UN protocol corpus. By modeling the problem as classification problem, we can achieve up to 95% classification accuracy. We begin by deriving a parallel corpus for different language-pairs annotated for translation direction, and then classify the data by using various feature extraction methods. We compare the different methods as well as the ability to distinguish between translated and original texts in the different languages. The annotated corpus is publicly available.

研究の動機と目的

• 与えられた並列コーパス内のテキストが元に書かれたものか翻訳されたものかを特定する課題に対処すること。
• 複数の言語対にわたる翻訳方向をアノテートした高品質で公開可能な並列コーパスを作成すること。
• オリジナル対訳文を区別する際のさまざまな特徴抽出手法の有効性を評価すること。
• 分類モデルの性能差が異なる言語および言語対においてどのように現れるかを分析すること。
• 機械翻訳、スタイルモデリング、言語的分析などの下流NLPタスクを支援するリソースを提供すること。

提案手法

• 著者らは、翻訳方向検出を二値分類問題として定式化する：オリジナル対訳文。
• 各テキストセグメントを表現するため、語彙的・構文的・分布統計的特徴を抽出する。
• n-gram頻度、品詞パターン、語彙多様性指標などの複数の特徴抽出手法を評価する。
• 教師あり学習モデル（例：SVMまたは類似手法）をアノテート済みデータで学習させ、テキストセグメントの翻訳方向を分類する。
• UN Parallel Corpusの複数の言語対における並列文ペアを用いてモデルを学習およびテストする。
• 最終的なモデルは、正確度などの標準的指標を用いて評価され、言語間一般化性能も言語対ごとにテストされる。

実験結果

リサーチクエスチョン

• RQ1 多言語並列コーパスにおいて、言語的特徴はオリジナル対訳文を効果的に区別できるか？
• RQ2 UN Parallel Corpusにおける異なる言語対において、分類性能はどのように変動するか？
• RQ3 どの特徴抽出手法が翻訳方向の識別において最高の正確度を達成するか？
• RQ4 モデルはどの程度言語間で一般化可能であり、翻訳方向検出には言語固有のパターンが存在するか？
• RQ5 アノテート済みコーパスは、並列テキストを扱う下流NLPアプリケーションの信頼性をどのように向上させるか？

主な発見

• 提案された分類モデルは、テキストセグメントがオリジナルか翻訳かを識別する際、最大95％の正確度を達成した。
• 語彙多様性、品詞パターン、n-gram頻度を組み合わせた特徴セットが、最も優れた分類性能を示した。
• モデルは複数の言語対で一貫して高い性能を発揮したが、元言語および対訳言語によってわずかに性能に差が生じた。
• アノテート済みコーパスは公開されたため、再現性が確保され、NLP研究における広範な利用が可能になった。
• 低リソース言語対であっても、言語的特徴を用いることで翻訳方向検出が高精度で可能であることが示された。
• 翻訳文はオリジナル文に比べて語彙的反復が高く、構文的構造が単純である傾向があることが明らかになった。