[論文レビュー] Learning the Difference that Makes a Difference with Counterfactually-Augmented Data

Divyansh Kaushik, Eduard Hovy+1 more|arXiv (Cornell University)|Sep 26, 2019

Anomaly Detection Techniques and Applications参考文献 33被引用数 232

ひとこと要約

著者らは群衆作業者を通じて反事実的に編集した感情分析とNLIデータを作成し、虚偽の信号と真の信号を分離する。元データと反事実的に修正されたデータの混合で訓練したモデルは、スプリアスな手掛かりに対してより堅牢になることを示している。

ABSTRACT

Despite alarm over the reliance of machine learning systems on so-called spurious patterns, the term lacks coherent meaning in standard statistical frameworks. However, the language of causality offers clarity: spurious associations are due to confounding (e.g., a common cause), but not direct or indirect causal effects. In this paper, we focus on natural language processing, introducing methods and resources for training models less sensitive to spurious patterns. Given documents and their initial labels, we task humans with revising each document so that it (i) accords with a counterfactual target label; (ii) retains internal coherence; and (iii) avoids unnecessary changes. Interestingly, on sentiment analysis and natural language inference tasks, classifiers trained on original data fail on their counterfactually-revised counterparts and vice versa. Classifiers trained on combined datasets perform remarkably well, just shy of those specialized to either domain. While classifiers trained on either original or manipulated data alone are sensitive to spurious features (e.g., mentions of genre), models trained on the combined data are less sensitive to this signal. Both datasets are publicly available.

研究の動機と目的

• NLPにおける偽の関連付けに対する原因性に触発された見解を動機づけ、偽の信号と非偽の信号を区別する。
• 整合性を保ちつつ反事実ラベルに適合するよう文書を編集する人間-in-the-loopのデータ収集プロセスを導入する。
• モデルの堅牢性を研究するために、IMDbの感情分析データとSNLIデータセットを反事実的に修正された例で拡張する。
• 元データ・修正データ・結合データで訓練されたモデルが、分布シフトやドメイン移動の下でどのように性能を発揮するかを評価する。

提案手法

• 群衆作業者は、整合性を保ちつつ不要な変更を最小限に抑えながら、反事実ラベルが適用されるようにテキストを編集する。
• 既存リソースを拡張する形で、反事実的に修正された感情データ（IMDb）とNLIデータ（SNLI）を収集する。
• 元データ、修正データ、結合データセット上で、複数のモデル（SVM、NB、Bi-LSTM、ELMo-LSTM、BERT）を訓練・評価する。
• インドメインとアウトオブドメインの性能を比較し、偽の手掛かりへの依存の変化を分析する。
• 編集パターンと特徴量の重要度を検査し、強化後にどの手掛かりが予測不能になるかを特定する。

実験結果

リサーチクエスチョン

• RQ1 反事実的に編集されたデータは、NLPタスクにおける偽の信号と真の予測信号を分離できるか？
• RQ2 元データと反事実的に修正されたデータの組み合わせで訓練されたモデルは、修正済みデータやアウトオブドメイン入力に対してより一般化できるか？
• RQ3 感情分析とNLIにおいて、異なるモデル系（線形、Bi-LSTM、ELMo、BERT）が反事実的に拡張されたデータにどう反応するか？
• RQ4 人間がラベルを変更する際に用いる定性的な編集パターンは何か、そしてそれらが学習された特徴にどう影響するか？

主な発見

• 修正データで訓練されたモデルは修正データでは良好だが元データでは不十分で、逆もまた然り。
• 結合データの訓練は、元データと修正データの両方で堅牢な性能を発揮し、対応する単一ドメインモデルのおおよそ3ポイント程度の差に収まることが多い。
• 偽の手掛かり（例：感情分析におけるジャンルの言及）は、訓練に修正データを含めると予測力を失う。
• BERTは、反事実的な修正による性能低下に対して他のモデルよりも高い回復力を示すが、データを結合することの利点は依然として明らかである。
• SNLIベースの実験は、仮説のみまたは前提のみの信号が脆弱であることを示しており、RPおよびRHバリアントでのファインチューニングには、頑健な性能のために前提と仮説の両方を見ないといけない。
• アウトオブドメインのテスト（Amazon、Twitter、Yelp）では、IMDbを反事実的に拡張して訓練したモデルが、元データのみで訓練したモデルより一般に良好な性能を示す。