[論文レビュー] SoftMCL: Soft Momentum Contrastive Learning for Fine-grained Sentiment-aware Pre-training

Jin Wang, Liang-Chih Yu+1 more|arXiv (Cornell University)|May 3, 2024

Emotion and Mood Recognition被引用数 4

ひとこと要約

本稿では、硬い感情分類ではなく連続的価値評価（valence ratings）をソフトラベルとして用いることで、微細なセンチメントに配慮した事前学習のためのソフトモーメンタム対照学習フレームワークであるSoftMCLを提案する。単語レベルと文レベルの対照学習を組み合わせ、モーメンタムキューを用いてネガティブサンプルの多様性を拡張することで、感情表現の学習を向上させ、複数のセンチメント分析ベンチマークで最先端の性能を達成し、微細なセンチメントの違いを扱う能力において既存手法を上回る。

ABSTRACT

The pre-training for language models captures general language understanding but fails to distinguish the affective impact of a particular context to a specific word. Recent works have sought to introduce contrastive learning (CL) for sentiment-aware pre-training in acquiring affective information. Nevertheless, these methods present two significant limitations. First, the compatibility of the GPU memory often limits the number of negative samples, hindering the opportunities to learn good representations. In addition, using only a few sentiment polarities as hard labels, e.g., positive, neutral, and negative, to supervise CL will force all representations to converge to a few points, leading to the issue of latent space collapse. This study proposes a soft momentum contrastive learning (SoftMCL) for fine-grained sentiment-aware pre-training. Instead of hard labels, we introduce valence ratings as soft-label supervision for CL to fine-grained measure the sentiment similarities between samples. The proposed SoftMCL is conducted on both the word- and sentence-level to enhance the model's ability to learn affective information. A momentum queue was introduced to expand the contrastive samples, allowing storing and involving more negatives to overcome the limitations of hardware platforms. Extensive experiments were conducted on four different sentiment-related tasks, which demonstrates the effectiveness of the proposed SoftMCL method. The code and data of the proposed SoftMCL is available at: https://www.github.com/wangjin0818/SoftMCL/.

研究の動機と目的

• 事前学習済み言語モデルが硬いセンチメントラベルに依存することで生じる、微細なセンチメントニュアンスの捉えこぼれの問題を解消すること。
• GPUメモリ制約に起因する対照学習の限界を克服するため、ネガティブサンプルを保存・再利用可能なモーメンタムキューを導入すること。
• 離散的センチメントラベルの代わりに連続的価値評価を監視信号として用いることで、感情表現の学習を向上させること。
• ソフト対照学習を用いた単語レベルと文レベルの統合的事前学習により、センチメント関連タスクにおけるモデル性能を向上させること。
• ソフトラベル対照学習が、対照学習における潜在空間の崩壊を軽減し、センチメント一般化性能を向上させる有効性を示すこと。

提案手法

• SoftMCLは、対照学習のためのソフト監視信号として連続的価値評価を用い、硬いセンチメントラベルに代えて、サンプル間の微細な類似度測定を可能にする。
• 履歴のネガティブサンプルを格納・取得するためのモーメンタムエンコーダーとモーメンタムキューを導入し、バッチサイズの制限を超えて有効なネガティブサンプルプールを拡大する。
• フレームワークは同時に単語レベルおよび文レベルで対照学習を実行し、多スケールの感情表現学習を可能にする。
• 訓練目的関数はマスク言語モデル（MLM）と二重ブランチ対照損失の組み合わせであり、対照損失は、アーキテクチャとポジティブ／ネガティブペア間の温度調整付きコサイン類似度で計算される。
• モーメンタムエンコーダーはモーメンタム係数μを用いて更新され、モーメンタムネットワークの徐徐な進化により、対照学習プロセスの安定化を図る。
• 温度τ、バランス係数λ₁およびλ₂、キュー容量などのハイパーパrameterは最適化のために調整され、τ=0.1およびキュー容量=1024が最良の結果をもたらした。

(b) Supervised contrastive learning with hard labels

実験結果

リサーチクエスチョン

• RQ1 連続的価値評価をソフトラベルとして用いることで、離散的ハードラベルと比較して感情表現学習の質が向上するか？
• RQ2 GPUメモリ制約下でモーメンタムキューを用いることで、対照学習性能が顕著に向上するか？
• RQ3 単一レベルの事前学習と比較して、単語レベルと文レベルの統合的事前学習がセンチメント分類性能に与える影響は何か？
• RQ4 SoftMCLフレームワークの最適なハイパーパrameter設定（温度、モーメンタム係数、キュー容量など）は何か？
• RQ5 SoftMCLは、センチメントに配慮した事前学習における対照学習の潜在空間の崩壊をどの程度軽減できるか？

主な発見

• SoftMCLは、IMDBやMRを含む4つのセンチメント関連ベンチマークで最先端の性能を達成し、λ₁=0.25およびλ₂=0.25で最良の結果が得られた。
• 最適な温度ハイパーパrameter τ=0.1は、IMDBおよびMRデータセットの両方で一貫して最良の性能を示し、対照学習の安定性と表現品質の向上を示している。
• モーメンタム係数μ=0.9が優れた性能をもたらし、ゆっくりと進化するモーメンタムエンコーダーが表現学習を向上させることを実証した。
• キュー容量1024が最良の性能を達成し、より大きなキューがネガティブサンプルの多様性を向上させつつ過剰なノイズを引き起こさないことを示した。
• アブレーションスタディの結果、単語レベルまたは文レベルの事前学習を削除すると一貫した性能低下が生じ、多スケール学習の必要性を裏付けた。
• 単語レベルの事前学習では40,000ステップ、文レベルの事前学習では20,000ステップで訓練損失が収束した。これは、モーメンタムキューによる持続的ネガティブサンプルのおかげで効率的な学習が可能になったことを示している。

(c) Supervised contrastive learning with soft labels