[論文レビュー] Benchmarking Robustness of Machine Reading Comprehension Models

Chenglei Si, Ziqing Yang+4 more|arXiv (Cornell University)|Apr 29, 2020

Topic Modeling参考文献 36被引用数 14

ひとこと要約

本稿では、RACEデータセット上で4つの敵対的攻撃—AddSent、CharSwap、Distractor Extraction（DE）、Distractor Generation（DG）—に対する機械的読解（MRC）モデルの頑健性を評価するモデルに依存しないベンチマーク、AdvRACEを紹介する。最新のSOTAモデルは標準ベンチマークでは良好な性能を示すが、これらの攻撃に対して顕著な性能低下を示し、深刻な脆弱性を露呈しており、より頑健なMRCモデルの開発が急務であることを示している。著者らは、今後のモデルの頑健性に関する研究を支援するため、データセットとコードを公開している。

ABSTRACT

Machine Reading Comprehension (MRC) is an important testbed for evaluating models' natural language understanding (NLU) ability. There has been rapid progress in this area, with new models achieving impressive performance on various benchmarks. However, existing benchmarks only evaluate models on in-domain test sets without considering their robustness under test-time perturbations or adversarial attacks. To fill this important gap, we construct AdvRACE (Adversarial RACE), a new model-agnostic benchmark for evaluating the robustness of MRC models under four different types of adversarial attacks, including our novel distractor extraction and generation attacks. We show that state-of-the-art (SOTA) models are vulnerable to all of these attacks. We conclude that there is substantial room for building more robust MRC models and our benchmark can help motivate and measure progress in this area. We release our data and code at https://github.com/NoviScl/AdvRACE .

研究の動機と目的

• 既存のMRCベンチマークがドメイン内性能にのみ焦点を当てており、テスト時における摂動を無視していることによる頑健性評価の欠如に対処する。
• 多様な敵対的攻撃下でのMRCモデルの評価を可能にする包括的で、移譲可能で、モデルに依存しないベンチマークの開発。
• 現実的な摂動、特に新規の誘導要因ベースの攻撃を含む、SOTA MRCモデルの脆弱性を特定および定量化する。
• 敵対的訓練が、真の理解ではなく誤った統計的ヒントに依存することで、モデルの頑健性を過剰に評価する可能性があることを示す。

提案手法

• 著者らは、RACEテストセットに4つの敵対的攻撃（AddSent、CharSwap、Distractor Extraction（DE）、Distractor Generation（DG））を適用することでAdvRACEを構築し、ラベルは維持したまま入力テキストを変更した。
• すべての攻撃はモデルに依存しないものであり、モデルのパラメータにアクセスする必要がないため、任意のMRCモデルが同じベンチマークで評価可能である。
• Distractor ExtractionおよびDistractor Generationは、元の誤り選択肢を意味的に類似したが誤りの選択肢に置き換えるという新規な攻撃であり、モデルの推論要求を高める。
• ベンチマークは効率的かつ移譲可能に構築されており、他のMRCデータセットへの最小限の修正で適応可能である。
• 人間によるアノテーションによる品質管理により、意味的整合性とラベルの一貫性を保った高精度な敵対的例が確保された。
• 敵対的訓練は、個々の攻撃タイプおよび複合攻撃タイプの両方で評価され、頑健性の向上と誤ったパターンへの過適合の可能性を検証した。

実験結果

リサーチクエスチョン

• RQ1 SOTA MRCモデルは、新規の誘導要因ベースの摂動を含む多様な敵対的攻撃に対してどのように性能を示すか？
• RQ2 敵対的訓練は複数の攻撃タイプにわたりどの程度頑健性を向上させるか、一般化するか？
• RQ3 敵対的訓練されたモデルは真の理解に基づいた頑健な表現を学習しているのか、それともデータ内の誤った統計的ヒントを利用しているのか？
• RQ4 提案されたAdvRACEベンチマークは、モデルの弱みを効果的に特定し、より頑健なMRCシステムの開発を支援できるか？

主な発見

• SOTA MRCモデルは4つの敵対的攻撃に対して顕著な性能低下を示し、最大で30%の精度低下を記録しており、頑健性が著しく低いことが判明した。
• 単一の攻撃タイプに対する敵対的訓練は、その特定の攻撃でのみ性能を向上させ、他の攻撃タイプでは性能が低下することが多い。
• Distractor Extraction（DE）に対する敵対的訓練は、AddSent攻撃での性能向上を示し、語彙マッチングへの依存が低下している可能性を示唆している。
• 混合敵対的訓練により、すべての攻撃タイプで性能が向上し、元のテストセットでもわずかに精度が低下するにとどまり、広範な頑健性の向上が得られた。
• 診断実験の結果、AddSentに敵対的訓練を施したモデルは、真の推論ではなく誤ったパターン（例：答えの挿入）を利用しており、頑健性が過剰に評価されていることが判明した。
• 選択肢のみの訓練実験から、元のデータセット、DE、DGのすべてのデータセットに強い誤った統計的ヒントが存在することが判明し、高い性能がパターンの利用に基づくものであり、頑健な理解に基づくものではない可能性があることが示された。