[論文レビュー] Are you tough enough? Framework for Robustness Validation of Machine Comprehension Systems

Barbara Rychalska, Dominika Basaj+1 more|arXiv (Cornell University)|Dec 5, 2018

Topic Modeling参考文献 12被引用数 5

ひとこと要約

本論文は、解釈可能性を提供するLIMEを用いて意味的摂動を介してモデルの安定性を評価する、機械理解システムのロバストネス検証フレームワークを提案する。単語の同義語置換および埋め込みベースの語の置換を用いたモデルの応答をテストすることで、高い精度を示すにもかかわらず、最先端モデルの極めて高い脆弱性が明らかになり、敵対的訓練が真の同義語に対する感受性を最大7%向上させることを示した。

ABSTRACT

Deep Learning NLP domain lacks procedures for the analysis of model robustness. In this paper we propose a framework which validates robustness of any Question Answering model through model explainers. We propose that a robust model should transgress the initial notion of semantic similarity induced by word embeddings to learn a more human-like understanding of meaning. We test this property by manipulating questions in two ways: swapping important question word for 1) its semantically correct synonym and 2) for word vector that is close in embedding space. We estimate importance of words in asked questions with Locally Interpretable Model Agnostic Explanations method (LIME). With these two steps we compare state-of-the-art Q&A models. We show that although accuracy of state-of-the-art models is high, they are very fragile to changes in the input. Moreover, we propose 2 adversarial training scenarios which raise model sensitivity to true synonyms by up to 7% accuracy measure. Our findings help to understand which models are more stable and how they can be improved. In addition, we have created and published a new dataset that may be used for validation of robustness of a Q&A model.

研究の動機と目的

• ディープラーニングNLPモデルにおけるロバストネス評価のための標準化された手順の欠如に取り組む。
• 最先端の質問応答モデルが語の埋め込みを越えて人間のような理解を示しているかどうかを調査する。
• 入力質問における意味的および分布的変化に対するモデル感受性を体系的にテストする手法を開発する。
• 標的の敵対的訓練シナリオを通じてモデルのロバストネスを向上させる。
• 将来的なQAシステムのロバストネス評価のための新しい公開データセットを提供する。

提案手法

• 入力質問内の語の重要度を特定・順位付けするために、局所的に解釈可能なモデルに依存しない説明（LIME）を用いる。
• 2種類の入力摂動を適用する：主要な質問語を意味的に正しい同義語に置換し、語の埋め込み空間における最近傍語に置換する。
• 摂動前後におけるモデル予測を比較し、ロバストネスと一貫性を評価する。
• 真の同義語に対する感受性を高めるために、2つの敵対的訓練シナリオを設計し、一般化を改善する。
• 摂動前後における敵対的ファインチューニングの前後で、精度指標を用いてモデルのパフォーマンスを評価する。
• ロバストネスベンチマークのための、摂動を加えた質問-回答ペアを含む新しいデータセットをリリースする。

実験結果

リサーチクエスチョン

• RQ1 主要な質問語が意味的に正しい同義語に置き換えられた場合、最先端のQAモデルはどの程度ロバスト性を保っているか？
• RQ2 主要な語が意味的に無関係だが埋め込みで類似した語に置き換えられた場合、モデルのパフォーマンスはどのようになるか？
• RQ3 敵対的訓練により、真の同義語に対する感受性が向上し、かつ精度が維持または向上するか？
• RQ4 LIMEによるモデルの説明可能性と意味的摂動に対するロバストネスの関係は何か？
• RQ5 提案されたフレームワークは、標準的な精度指標を超えて、モデルのロバストネスを体系的に評価するのにどのように寄与するか？

主な発見

• 高い精度を示すにもかかわらず、最先端のQAモデルは、特に主要語が同義語に置き換えられる際、意味的摂動に対して極めて脆弱である。
• 語が意味的に正しい同義語に置き換えられた場合、モデルのパフォーマンスが顕著に低下するため、真の意味的理解が欠如していることが示唆される。
• LIMEの使用により、モデルが深い意味的推論ではなく表面的な手がかりに大きく依存していることが明らかになった。
• 敵対的訓練シナリオにより、真の同義語に対する感受性が最大7%向上し、ロバストネス向上の可能性が示された。
• 提案されたフレームワークは、モデルの弱みを的確に特定し、再現可能なロバストネス検証手法を提供した。
• 新たにリリースされたデータセットにより、異なるアーキテクチャや学習環境におけるQAモデルのロバストネスの標準化された評価が可能になった。