[論文レビュー] MultiMWE: Building a Multi-lingual Multi-Word Expression (MWE) Parallel Corpora

Lifeng Han, Gareth J. F. Jones+1 more|arXiv (Cornell University)|May 21, 2020

Natural Language Processing Techniques参考文献 21被引用数 6

ひとこと要約

本稿では、標準化されたパイプラインを用いて並列コーパスから抽出した、316万件のドイツ語-英語および14万3042件の中国語-英語の多語種表現（MWE）ペアを含む大規模なマルチリンガル並列コーパス、MultiMWEを紹介する。このコーパスはニューラル機械翻訳（NMT）の性能を向上させ、MWE翻訳における定性的な改善と、特にMWEが学習データに統合された場合に顕著なBLEUスコアのわずかな定量的向上を示している。

ABSTRACT

Multi-word expressions (MWEs) are a hot topic in research in natural language processing (NLP), including topics such as MWE detection, MWE decomposition, and research investigating the exploitation of MWEs in other NLP fields such as Machine Translation. However, the availability of bilingual or multi-lingual MWE corpora is very limited. The only bilingual MWE corpora that we are aware of is from the PARSEME (PARSing and Multi-word Expressions) EU Project. This is a small collection of only 871 pairs of English-German MWEs. In this paper, we present multi-lingual and bilingual MWE corpora that we have extracted from root parallel corpora. Our collections are 3,159,226 and 143,042 bilingual MWE pairs for German-English and Chinese-English respectively after filtering. We examine the quality of these extracted bilingual MWEs in MT experiments. Our initial experiments applying MWEs in MT show improved translation performances on MWE terms in qualitative analysis and better general evaluation scores in quantitative analysis, on both German-English and Chinese-English language pairs. We follow a standard experimental pipeline to create our MultiMWE corpora which are available online. Researchers can use this free corpus for their own models or use them in a knowledge base as model features.

研究の動機と目的

• 自然言語処理研究におけるマルチリンガルおよび二国語MWEコーパスの不足に対処すること。
• 並列コーパスから二国語MWEを抽出するためのスケーラブルで再現可能なパイプラインの開発。
• MWEの統合がニューラル機械翻訳（NMT）性能に与える影響の評価。
• 情報抽出、質問応答、情報検索などのマルチリンガルNLPタスクに役立つ、自由に利用可能な高品質リソースの提供。
• 他の言語対へのコーパスの拡張および不連続的・屈曲的複雑MWEの抽出精度の向上。

提案手法

• 並列コーパスから品詞（POS）パターン一致を用いてMWEを抽出。言語間で一致するPOSパターンを用いて翻訳を統合。
• 意味的同等性に基づくアライメントを通じて、ドイツ語および中国語のPOSパターンを英語にマッピングし、MWEを同定。
• 低品質またはノイズの多いMWEペアを除去するためのフィルターヒューリスティクスを適用し、最終的に3,159,226件のドイツ語-英語および143,042件の中国語-英語ペアを取得。
• 抽出された二国語MWEをNMT学習データに統合し、MWEの学習を強化。
• 一貫性のあるコーパス作成と評価のため、標準的な実験パイプライン（Rikters & Bojar, 2017）を採用。
• BLEUスコアとMWE翻訳性能の定性的分析を用いて翻訳品質を評価。

実験結果

リサーチクエスチョン

• RQ1 タイプオロジカルに異なる言語間で、スケーラブルなルールベース手法が高品質な二国語MWEを並列コーパスから抽出可能か？
• RQ2 抽出された二国語MWEをNMT学習データに統合することで、MWE翻訳の品質はどのように向上するか？
• RQ3 MWE強化モデルは、ドイツ語-英語および中国語-英語翻訳タスクにおいて、BLEUなどの自動評価指標にどの程度の向上をもたらすか？
• RQ4 BLEUなどの現在の自動評価指標は、MWE翻訳の意味的正確性を十分に捉えていない場合があるのはなぜか？
• RQ5 MultiMWEコーパスは他の言語対へ拡張可能であり、クロスリンガルNLP応用を支援できるか？

主な発見

• フィルタリング後のMultiMWEコーパスは、3,159,226件のドイツ語-英語および143,042件の中国語-英語MWEペアを含み、既存の二国語MWEコーパスよりも顕著に大規模である。
• 定性的分析により、強化されたNMTモデルにおけるMWE翻訳の改善が確認され、特に「Krieg der Wörter」（戦いの言葉）や「sogenannter Freund」（いわゆる友人）といった慣用句の翻訳が向上した。
• 定量的評価では、中国語-英語翻訳タスクにおいて、ベースラインの18.39に比べてMWEpruned0.85+Baseモデルで18.49とわずかなBLEUスコアの向上が確認された。
• BLEU指標はMWE翻訳の改善を常に反映していないことが判明した。表面形の一致が悪くても意味的正確性が向上しているケースが存在した。
• このコーパスは https://github.com/poethan/MWE4MT で自由に利用可能であり、NLPモデルや知識ベースの再利用を可能にしている。
• 今後の研究では、不連続的MWEの対応拡張および中国語の漢字構成要素（部首や筆画）を統合し、屈曲的表現のモデリングを改善する予定である。