[論文レビュー] Exploring the Robustness of NMT Systems to Nonsensical Inputs

Akshay Chaturvedi, Abijith Kp+1 more|arXiv (Cornell University)|Aug 3, 2019

Adversarial Robustness in Machine Learning参考文献 22被引用数 11

ひとこと要約

本稿では、複数の語の置換を伴いながらもNMTシステムの翻訳出力を維持する、ソフトアテンションに基づく敵対的攻撃を提案する。この手法はHotFlipおよびランダムベースラインを著しく上回り、最先端のNMTモデルが語レベルの摂動において意味的不変性を示すことが判明し、高スコアのBLEUスコアにもかかわらず意味的理解が乏しいことが露呈された。

ABSTRACT

Neural machine translation (NMT) systems have been shown to give undesirable translation when a small change is made in the source sentence. In this paper, we study the behaviour of NMT systems when multiple changes are made to the source sentence. In particular, we ask the following question "Is it possible for an NMT system to predict same translation even when multiple words in the source sentence have been replaced?". To this end, we propose a soft-attention based technique to make the aforementioned word replacements. The experiments are conducted on two language pairs: English-German (en-de) and English-French (en-fr) and two state-of-the-art NMT systems: BLSTM-based encoder-decoder with attention and Transformer. The proposed soft-attention based technique achieves high success rate and outperforms existing methods like HotFlip by a significant margin for all the conducted experiments. The results demonstrate that state-of-the-art NMT systems are unable to capture the semantics of the source language. The proposed soft-attention based technique is an invariance-based adversarial attack on NMT systems. To better evaluate such attacks, we propose an alternate metric and argue its benefits in comparison with success rate.

研究の動機と目的

• 複数の語の置換を経た後でも意味的に異なる二つの源文に対してNMTシステムが同一の翻訳を出力できるかどうかを調査すること。
• 高い成功率を達成できる、柔軟なソフトアテンションに基づく敵対的例生成手法を構築すること。
• 成功確率を超えて不変性に基づく攻撃の有効性を評価することを目的とし、より包括的な評価のための新しいBLEUベースの指標を提案すること。
• 特にTransformerおよびBLSTM-attentionモデルを対象として、最先端NMTモデルにおける意味的耐性の欠如を暴露すること。
• 敵対的例に対するゴールドスタンダード翻訳が存在しないため、堅牢なNMTシステムの訓練が困難であるという課題を強調すること。

提案手法

• 敵対的語置換を二つの部分問題に分解する：置換対象の語の位置を特定することと、適切な置換語を選ぶこと。
• 最小勾配（Min-Grad）を用いて、源文において語置換がもたらす影響が最も大きい位置を同定する。
• アテンション重みを活用することで、ターゲット翻訳に関連する語に置換するため、ソフトアテンション機構を用いる。
• サブワード（サブワードトークン化による）を意味的に無関係な語に置換しつつ、モデルの出力翻訳を維持する。
• 攻撃は英語-ドイツ語および英語-フランス語対のBLSTM-attentionおよびTransformerベースのNMTシステムに適用された。
• 攻撃の有効性を評価するための代替BLEUベースの指標を提案し、成功確率のみに依存する評価を超えた、より洗練された指標を提供する。

実験結果

リサーチクエスチョン

• RQ1 複数回の語置換によって意味的に異なる二つの源文に対して、NMTシステムが同じ翻訳を出力できるか？
• RQ2 HotFlipなどの既存手法と比較して、ソフトアテンションに基づく手法は、このような敵対的例の生成においてどの程度効果的か？
• RQ3 ストップワード、固有語、主題語などの語の種別において、どのタイプの語が翻訳を変化させずに置換されやすいか？
• RQ4 最先端NMTモデルは、語レベルの摂動に対してどの程度意味的意味を捉えていないか？
• RQ5 成功確率よりも、BLEUベースの指標は不変性に基づく敵対的攻撃の評価においてより信頼性があるとされるか？

主な発見

• 提案されたMin-Grad+Soft-Att手法は、en-deおよびen-fr対の両方において、HotFlipおよびランダムベースラインを著しく上回る高い成功確率を達成した。
• 複数の語が意味的に無関係な語に置き換えられても、NMTシステムが同一の翻訳を出力する敵対的例が、本手法によって成功裏に生成された。
• 非常に主題的であるとされる語や固有語ですら、翻訳を変化させることなく置換可能であり、NMTモデルにおける深い意味的不変性が示された。
• 本研究では、高スコアのBLEUスコアと意味的耐性が相関しないことが判明し、モデルが無意味な入力を検出できないことが明らかになった。
• 提案されたBLEUベースの指標は、成功確率のみに依存する評価を超えて、摂動下での翻訳品質を捉えるうえでより情報量が多く、効果的な評価を可能にした。
• 敵対的例に対するゴールドスタンダード翻訳が存在しないため、堅牢な訓練戦略の開発が困難であることが明らかになった。これは今後の研究における主要な障壁を示唆している。