[論文レビュー] Supervised Adversarial Contrastive Learning for Emotion Recognition in Conversations

Dou Hu, Yinan Bao+3 more|arXiv (Cornell University)|Jun 2, 2023

Emotion and Mood Recognition被引用数 4

ひとこと要約

本稿では、元のサンプルおよび敵対的サンプルの両方における連携的コントラスト学習と、対照的で敵対的な訓練によるクラス分散構造の表現を学習することにより、会話内の感情認識を向上させる新規フレームワークである教師付き対抗的対照的学習（SACL）を提案する。さらに、文脈の頑健性を向上させるための文脈的敵対的訓練（CAT）戦略を導入し、3つのベンチマークデータセットで最先端の性能を達成し、一般化性能および微細な感情分類において顕著な向上を示した。

ABSTRACT

Extracting generalized and robust representations is a major challenge in emotion recognition in conversations (ERC). To address this, we propose a supervised adversarial contrastive learning (SACL) framework for learning class-spread structured representations in a supervised manner. SACL applies contrast-aware adversarial training to generate worst-case samples and uses joint class-spread contrastive learning to extract structured representations. It can effectively utilize label-level feature consistency and retain fine-grained intra-class features. To avoid the negative impact of adversarial perturbations on context-dependent data, we design a contextual adversarial training (CAT) strategy to learn more diverse features from context and enhance the model's context robustness. Under the framework with CAT, we develop a sequence-based SACL-LSTM to learn label-consistent and context-robust features for ERC. Experiments on three datasets show that SACL-LSTM achieves state-of-the-art performance on ERC. Extended experiments prove the effectiveness of SACL and CAT.

研究の動機と目的

• 既存の手法が内在するデータ構造およびクラス内微細特徴を捉えられていないことによる、会話内感情認識（ERC）における一般化可能で頑健な表現学習の課題に対処する。
• 標準的な対照的学習がクラス内特徴空間を圧縮し、識別能を損なうという制限を克服する。
• 会話依存の入力において、発話レベルの相関関係を乱す可能性がある敵対的摂動に対するモデルの頑健性を向上させる。
• ラベルの一貫性と文脈の頑健性を同時に向上させる統合フレームワークを構築し、ERC性能の向上を図る。
• アブレーションおよび可視化研究を通じて、提案されたSACLおよびCAT戦略の有効性を複数のベンチマークデータセットで実証する。

提案手法

• 最小化・最大化最適化の手法を用いて、隠れ層に悪質な摂動を生成することで、対照的で敵対的な訓練を実施し、困難なポジティブ例を生成する。
• 元のサンプルおよび敵対的サンプルの両方でソフト教師付き対照的学習（SCL）を適用し、ラベルレベルの特徴一貫性を強制するとともに、クラス内微細な変異を保持する。
• 複数チャネルで文脈に配慮した方法で摂動を適用することで、発話間依存関係を損なわないようにする文脈的敵対的訓練（CAT）戦略を設計する。
• CATをSACLフレームワークに統合し、会話依存の入力からより多様で頑健な表現を学習する。
• SACL目的関数に従って動作する感情分類器を備えた、文脈特徴抽出にデュアルLSTMモジュールを用いるシーケンスベースのモデルSACL-LSTMを開発する。
• クリーンなサンプルおよび敵対的サンプルの両方におけるクロスエントロピーとソフトSCLの結合目的関数を最適化することで、一般化性能および頑健性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 敵対的学習を対照的学習と効果的に組み合わせることで、クラス内多様性を保持するクラス分散構造の表現を、ERCにおいて学習できるか？
• RQ2 提案されたSACLフレームワークは、標準的な対照的学習および教師付きベースラインと比較して、一般化性能および頑健性をどのように向上させるか？
• RQ3 文脈的敵対的訓練（CAT）戦略は、会話依存の状況下でモデルの頑健性をどの程度向上させるか？
• RQ4 SACL-LSTMは、複数のベンチマークデータセットで会話内感情認識において最先端の性能を達成できるか？
• RQ5 このフレームワークは、クラス不均衡および類似した感情カテゴリの誤分類に対して、どの程度効果的に対処できるか？

主な発見

• SACL-LSTMは、IEMOCAP、MELD、DailyDialogの3つの公開ERCベンチマークで最先端の性能を達成し、既存のSOTA手法を上回った。
• MELDでは、低文脈状況下でも顕著な性能向上を示し、CATのおかげで文脈の頑健性が向上したことが裏付けられた。
• t-SNE可視化により、SACLは特に複雑な感情（例：驚き）において、より緊密で統一されたクラスクラスタと明確なクラス間分離を学習していることが確認された。
• モデルは類似した感情カテゴリ（例：興奮／幸せ、怒り／いらだち）の誤分類が減少しており、より優れた微細な特徴学習が実現していることが示された。
• 誤差解析の結果、SACL-LSTMは、アブレーションバージョンと比較して、代表度が低いクラスでも優れた性能を示しており、公平性および頑健性の向上が示唆された。
• 拡張実験により、SACLは表現品質を向上させ、CATは文脈に配慮した特徴の多様性および頑健性を効果的に向上させることを検証した。