[論文レビュー] Supervised Prototypical Contrastive Learning for Emotion Recognition in Conversation

Xiaohui Song, Longtao Huang+2 more|arXiv (Cornell University)|Oct 17, 2022

Sentiment Analysis and Opinion Mining被引用数 5

ひとこと要約

本論文は、クラスの不均衡と大規模バッチサイズへの依存を軽減するために、プロトタイプベースの対照的学習を活用する、会話における感情認識（ERC）のための新しい損失関数である監視付きプロトタイプ対照的学習（SPCL）を提案する。プロトタイプネットワークと監視付き対照的学習を統合し、距離に基づく難易度測度を用いたカリキュラム学習戦略と組み合わせることで、SPCLはIEMOCAP、MELD、EmoryNLPベンチマークで最先端の性能を達成し、クラスの不均衡や小規模バッチサイズに対しても頑健であることを示した。

ABSTRACT

Capturing emotions within a conversation plays an essential role in modern dialogue systems. However, the weak correlation between emotions and semantics brings many challenges to emotion recognition in conversation (ERC). Even semantically similar utterances, the emotion may vary drastically depending on contexts or speakers. In this paper, we propose a Supervised Prototypical Contrastive Learning (SPCL) loss for the ERC task. Leveraging the Prototypical Network, the SPCL targets at solving the imbalanced classification problem through contrastive learning and does not require a large batch size. Meanwhile, we design a difficulty measure function based on the distance between classes and introduce curriculum learning to alleviate the impact of extreme samples. We achieve state-of-the-art results on three widely used benchmarks. Further, we conduct analytical experiments to demonstrate the effectiveness of our proposed SPCL and curriculum learning strategy. We release the code at https://github.com/caskcsg/SPCL.

研究の動機と目的

• ミニバッチ内で少数クラスの正例が十分に不足する会話における感情認識（ERC）データセットにおけるクラスの不均衡の課題に対処すること。
• 計算コストを増加させ、スケーラビリティを制限する、監視付き対照的学習における大規模バッチサイズへの依存を軽減すること。
• 文脈的ヒントが不十分なために分類が困難な極端または曖昧なサンプルによって引き起こされる性能の低下を緩和すること。
• 学習済みの難易度測度に基づいて、簡単なサンプルから難しいサンプルへと順次学習データをスケジューリングするカリキュラム学習戦略を導入することで、一般化性能と学習の安定性を向上させること。
• 軽量で効率的な訓練戦略を用いて、標準的なERCベンチマークで最先端の性能を達成すること。

提案手法

• SPCLは、各クラスが表現キューを維持し、各訓練ステップでキュー内のサンプル表現から一時的なプロトタイプベクトルを計算する、プロトタイプベースの対照的学習メカニズムを導入する。
• 損失関数は、これらのプロトタイプベクトルをそれぞれのクラスの正例として、他のすべてのプロトタイプを負例として使用して対照的損失を計算し、バッチ内に少なくとも1つの正例と複数の負例を持つように保証する。
• クラス間距離とクラス内距離に基づく難易度測度関数を設計し、決定境界付近の難易度の高いサンプルを特定する。
• サンプリングベースのカリキュラム学習戦略を実装し、難易度の高いサンプルのサンプリング確率をエポックに伴い徐々に増加させることで、訓練中の難易度の滑らかな進行を実現する。
• 強力な文脈表現を活用するために、SPCLとカリキュラム学習で訓練する際にSimCSE（対照的事前学習モデル）と統合する。
• 各訓練エポックにおける簡単なサンプルと難しいサンプルの割合を制御するため、算術級数に基づく動的サンプリングスケジュールを用いる。

実験結果

リサーチクエスチョン

• RQ1 プロトタイプベースの対照的学習アプローチは、大規模バッチサイズを必要とせずに、クラスの不均衡なERCデータセットにおける性能低下を効果的に緩和できるか？
• RQ2 提案されたSPCL損失は、不均衡なデータにおいて、標準的な監視付き対照的学習（SupCon）と比較して、精度とバッチサイズへの感受性の点で優れているか？
• RQ3 距離に基づく難易度測度関数は、ERCにおいて難易度の高いサンプルを信頼性高く特定できるか？また、カリキュラム学習と組み合わせた場合、モデルの一般化性能が向上するか？
• RQ4 SPCLとカリキュラム学習の組み合わせは、複数の標準的なERCベンチマークで一貫した性能向上をもたらすか？
• RQ5 提案された手法は、ERCにおける大規模バッチ対照的学習に伴う計算負荷をどの程度低減できるか？

主な発見

• SPCLは、IEMOCAP（69.03％の正確度）、MELD（74.12％の正確度）、EmoryNLP（85.67％の正確度）という3つの主要なERCベンチマークで最先端の性能を達成し、既存の手法を上回った。
• 不均衡なIEMOCAPデータセットにおいて、SPCLはバッチサイズが4でも安定した性能（68.48％の正確度）を維持したが、SupConは同条件で5.63％の低下を示した。
• SPCLはバッチサイズへの感受性が著しく低く、バッチサイズが32から4に減少しても正確度が0.82％低下するにとどまり、SupConと比較して5.63％の低下と比べて顕著に改善された。
• 難易度測度関数によって誘導されるカリキュラム学習戦略は、訓練の安定性を向上させ、簡単なサンプルへの過学習を防止した。これは滑らかな損失曲線とより良い一般化性能によって裏付けられた。
• 定性的分析により、難易度測度関数が正しくサンプルをランク付けしていることが確認された。最も簡単な20％のサンプルがクラスの中心に配置され、最も難しい20％のサンプルがクラス間境界付近に配置された。
• アブレーションスタディの結果、SPCLとカリキュラム学習戦略はそれぞれ独立して、かつ相乗的に性能向上に寄与しており、特に長尾クラス分布の処理においてSPCLが顕著に有効であることが示された。