[論文レビュー] Simple Contrastive Representation Adversarial Learning for NLP Tasks

Deshui Miao, Jiaqi Zhang+5 more|arXiv (Cornell University)|Nov 26, 2021

Topic Modeling参考文献 47被引用数 6

ひとこと要約

本稿では、単純な対抗的学習（SCAL）と非教師付きSCAL（USCAL）を提案する。これらは埋め込み空間内でハードな対抗的例を生成し、対照的学習のポジティブペアとして用いることで、モデルの頑健性と一般化性能を向上させる。この手法はGLUEベンチマークでSOTAを達成（BERT baseより1.75%の向上）、敵対的NLIタスクでもSOTA結果を示し、敵対的訓練下でANLIテストセットで32.4%、ANLI開発セットで58.6%の精度を達成した。

ABSTRACT

Self-supervised learning approach like contrastive learning is attached great attention in natural language processing. It uses pairs of training data augmentations to build a classification task for an encoder with well representation ability. However, the construction of learning pairs over contrastive learning is much harder in NLP tasks. Previous works generate word-level changes to form pairs, but small transforms may cause notable changes on the meaning of sentences as the discrete and sparse nature of natural language. In this paper, adversarial training is performed to generate challenging and harder learning adversarial examples over the embedding space of NLP as learning pairs. Using contrastive learning improves the generalization ability of adversarial training because contrastive loss can uniform the sample distribution. And at the same time, adversarial training also enhances the robustness of contrastive learning. Two novel frameworks, supervised contrastive adversarial learning (SCAL) and unsupervised SCAL (USCAL), are proposed, which yields learning pairs by utilizing the adversarial training for contrastive learning. The label-based loss of supervised tasks is exploited to generate adversarial examples while unsupervised tasks bring contrastive loss. To validate the effectiveness of the proposed framework, we employ it to Transformer-based models for natural language understanding, sentence semantic textual similarity and adversarial learning tasks. Experimental results on GLUE benchmark tasks show that our fine-tuned supervised method outperforms BERT$_{base}$ over 1.75\%. We also evaluate our unsupervised method on semantic textual similarity (STS) tasks, and our method gets 77.29\% with BERT$_{base}$. The robustness of our approach conducts state-of-the-art results under multiple adversarial datasets on NLI tasks.

研究の動機と目的

• 対照的学習における意味的でラベルを保持するポジティブペアを生成する課題に取り組むこと。特に、離散的かつ疎なテキストのため、データ拡張が困難である点を考慮する。
• 対抗的学習と対照的学習を組み合わせることで、モデルの一般化性能と頑健性を向上させ、対抗的例をハードなポジティブペアとして活用する。
• 教師ありおよび非教師ありの対照的対抗的学習を統合したフレームワークを提案し、多様なNLPタスクに適用可能にする。
• 埋め込み空間における対抗的例が、NLPにおける対照的学習の新しいデータ拡張戦略として有効であることを検証する。

提案手法

• 入力埋め込みの勾配を計算し、微小な摂動を加えることで、埋め込み空間内で対抗的例 $ z_i^{adv} $ を生成する。
• フレームワークは、$ z_i $ と $ z_i^{adv} $ をポジティブペアとして引き寄せる対照的損失を用いる一方で、異なるインスタンスからの表現同士を遠ざける。
• 教師ありタスクでは、SCALにおいてラベルベースの分類損失と対照的損失を組み合わせ、精度と表現品質の両方を同時に最適化する。
• 非教師ありタスクでは、USCALにおいて対照的損失のみを用い、ラベルなしで文の表現を学習する。
• すべてのブランチで共有エンコーダーおよび分類器の重みを使用し、一貫性を保ちながら訓練効率を向上させる。
• この手法はBERTおよびRoBERTaベースのモデルに適用され、勾配に基づく摂動により敵対的訓練が行われ、挑戦的なポジティブペアが生成される。

実験結果

リサーチクエスチョン

• RQ1 埋め込み空間内で生成された対抗的例は、NLPにおける対照的学習の有効なポジティブペアとして機能するか？
• RQ2 対抗的学習と対照的学習を組み合わせることで、下流NLPタスクにおけるモデルの一般化性能と頑健性が向上するか？
• RQ3 提案されたSCALフレームワークは、GLUEおよびNLIベンチマークで既存の対抗的学習および対照的学習手法と比較してどのように優れているか？
• RQ4 非教師ありバージョンであるUSCALは、教師あり手法と同等の文の表現を効果的に学習できるか？

主な発見

• GLUEベンチマークにおいて、SCALはBERT baseを1.75%上回り、教師ありNLUタスクにおける一般化性能の向上を示した。
• 意味的類似度（STS）タスクでは、非教師ありUSCALはBERT baseで77.29%を達成し、優れたゼロショット性能を示した。
• 敵対的ANLIベンチマークでは、MNLI+SNLIで訓練したSCALが32.4%のテスト精度を達成し、FreeLB（27.4%）およびInfoBERT（28.2%）を4ポイント以上上回った。
• MNLI+SNLI+ANLI+FeverNLIで微調整した場合、SCALはRoBERTaを用いてANLI開発セットで58.6%の頑健な精度を達成し、InfoBERT（58.3%）およびFreeLB（56.2%）を上回った。
• この手法は、複数の敵対的NLIデータセットで強力な性能を維持しており、多様な攻撃シナリオ下でも高い頑健性を示している。