[論文レビュー] QuickEdit: Editing Text & Translations via Simple Delete Actions.

David Grangier, Michael Auli|arXiv (Cornell University)|Nov 13, 2017

Natural Language Processing Techniques被引用数 10

ひとこと要約

QuickEdit は、単純な削除操作を用いたテキストおよび翻訳の編集のためのニューラルシーケンス・ツー・シーケンスフレームワークを提案する。ユーザーは置き換えたいトークンをマークし、モデルはそれらの単語を避けるように再構成された文を生成する。WMT-14 英語-ドイツ語翻訳のポストエディティングにおいて +11.4 BLEU を達成し、25.2 から 36.6 に向上し、最小限の編集作業でベースラインを +5.9 BLEU で上回った。

ABSTRACT

We propose a framework for computer-assisted text editing. It applies to translation post-editing and to paraphrasing and relies on very simple interactions: a human editor modifies a sentence by marking tokens they would like the system to change. Our model then generates a new sentence which reformulates the initial sentence by avoiding the words from the marked tokens. Our approach builds upon neural sequence-to-sequence modeling and introduces a neural network which takes as input a sentence along with deleted token markers. Our model is trained on translation bi-text by simulating post-edits. Our results on post-editing for machine translation and paraphrasing evaluate the performance of our approach. We show +11.4 BLEU with limited post-editing effort on the WMT-14 English-German translation task (25.2 to 36.6), which represents +5.9 BLEU over the post-editing baseline (30.7 to 36.6).

研究の動機と目的

• 機械翻訳における人的なポストエディティング作業を削減するため、単純で的を射た編集を可能にする。
• 最小限のユーザー介入により、言い換えおよび翻訳品質を向上させる。
• マークされたトークンを避けることで再構成された文を生成するニューラルモデルを開発する。
• 平行翻訳データからシミュレートされたポストエディットを用いて、モデルを学習する。
• フレームワークを翻訳ポストエディティングおよび言い換えタスクの両方で評価する。

提案手法

• モデルは、削除すべきトークンがマークされた入力文に条件付けられたシーケンス・ツー・シーケンスアーキテクチャを用いる。
• モデルは、元の文と削除マーカーの両方を入力として受け取るニューラルネットワークを採用する。
• トークンの削除を通じてポストエディットをシミュレートすることで、並列単語対訳データおよび単語対訳データを用いてモデルを学習する。
• 意味を保持したまま削除された語を避ける新しい文の生成によって、再構成が達成される。
• 生成中に関連する文脈に注目するため、アテンションメカニズムを活用する。
• 訓練データは、元の文のトークンをランダムにマスキングし、それに応じた再構成文を生成することで構築される。

実験結果

リサーチクエスチョン

• RQ1 単純な削除操作が、機械翻訳におけるポストエディティング作業を顕著に削減できるか？
• RQ2 トークンの削除後に、ニューラルモデルが意味のある再構成文を効果的に生成できるか？
• RQ3 提案手法は、標準のポストエディティングベースラインと比較して BLEU スコアを向上させるか？
• RQ4 このフレームワークは、翻訳を越えた言い換えタスクにも一般化可能か？
• RQ5 テキスト再構成における編集作業と出力品質のトレードオフは何か？

主な発見

• QuickEdit は、WMT-14 英語-ドイツ語翻訳タスクで +11.4 BLEU の向上を達成し、25.2 から 36.6 に上昇した。
• 30.7 から 36.6 に向上したベースラインを +5.9 BLEU で上回った。
• ユーザーが削除するトークンをマークするという最小限の入力で、高品質なテキスト再構成が可能である。
• モデルは翻訳ポストエディティングおよび言い換えタスクの両方で効果的に一般化している。
• 単純で直感的なユーザー操作でのみ、強力なパフォーマンス向上が達成された。
• 結果は、的を射た削除に基づく編集が、テキスト生成および精錬のための効果的で効率的なアプローチであることを確認した。