[논문 리뷰] SoftMCL: Soft Momentum Contrastive Learning for Fine-grained Sentiment-aware Pre-training

Jin Wang, Liang-Chih Yu외 1명|arXiv (Cornell University)|2024. 05. 03.

Emotion and Mood Recognition인용 수 4

한 줄 요약

이 논문은 연속된 밸런스 평가 점수를 딱딱한 감성 클래스가 아닌 소프트 레이블로 사용함으로써 미세한 감성에 민감한 사전학습을 위한 소프트 모멘텀 대비 학습 프레임워크인 SoftMCL을 제안한다. 단어 수준 및 문장 수준의 대비 학습을 모멘텀 큐를 통해 부정 샘플의 다양성을 확장함으로써 감성 표현 학습을 향상시키고, 여러 감성 분석 벤치마크에서 최신 기술 수준의 성능을 달성하며, 미묘한 감성 차이를 다루는 데서 기존 방법들을 능가한다.

ABSTRACT

The pre-training for language models captures general language understanding but fails to distinguish the affective impact of a particular context to a specific word. Recent works have sought to introduce contrastive learning (CL) for sentiment-aware pre-training in acquiring affective information. Nevertheless, these methods present two significant limitations. First, the compatibility of the GPU memory often limits the number of negative samples, hindering the opportunities to learn good representations. In addition, using only a few sentiment polarities as hard labels, e.g., positive, neutral, and negative, to supervise CL will force all representations to converge to a few points, leading to the issue of latent space collapse. This study proposes a soft momentum contrastive learning (SoftMCL) for fine-grained sentiment-aware pre-training. Instead of hard labels, we introduce valence ratings as soft-label supervision for CL to fine-grained measure the sentiment similarities between samples. The proposed SoftMCL is conducted on both the word- and sentence-level to enhance the model's ability to learn affective information. A momentum queue was introduced to expand the contrastive samples, allowing storing and involving more negatives to overcome the limitations of hardware platforms. Extensive experiments were conducted on four different sentiment-related tasks, which demonstrates the effectiveness of the proposed SoftMCL method. The code and data of the proposed SoftMCL is available at: https://www.github.com/wangjin0818/SoftMCL/.

연구 동기 및 목표

• 사전 학습된 언어 모델이 딱딱한 감성 레이블에 의존함으로써 미세한 감성 뉘앙스를 포착하는 데 한계를 가진다는 문제를 해결하기 위해.
• 모멘텀 큐를 도입하여 부정 샘플을 저장하고 재사용함으로써 대비 학습에서 GPU 메모리 제약을 극복하기 위해.
• 이산 감성 레이블을 연속된 밸런스 평가 점수로 대체함으로써 감성 표현 학습을 향상시키기 위해.
• 소프트 대비 학습을 통한 단어 수준 및 문장 수준의 병렬 사전학습을 통해 감성 관련 작업의 성능을 향상시키기 위해.
• 소프트 레이블 대비 학습이 잠재 공간 붕괴를 완화하고 감성 일반화를 향상시키는 데 효과적인지 입증하기 위해.

제안 방법

• SoftMCL은 대비 학습을 위한 연속된 밸런스 평가 점수를 소프트 감독으로 사용하여 딱딱한 감성 레이블을 대체함으로써 샘플 간의 미세한 유사도 측정을 가능하게 한다.
• 기존의 부정 샘플을 저장하고 재활용하기 위해 모멘텀 인코더와 모멘텀 큐를 도입하여 배치 크기 제한을 초월한 효과적인 부정 샘플 풀을 확장한다.
• 단어 수준 및 문장 수준에서 동시에 대비 학습을 수행함으로써 다중 해상도 감성 표현 학습을 가능하게 한다.
• 마스크된 언어 모델링(MLM)과 이중 분기 대비 손실을 결합한 학습 목표를 설정하며, 대비 손실은 온도 조정된 코사인 유사도를 통해 앵커와 양성/부정 샘플 쌍 간에 계산된다.
• 모멘텀 인코더는 모멘텀 계수 μ를 통해 업데이트되어 모멘텀 네트워크의 점진적인 진화를 통해 대비 학습 과정의 안정성을 높인다.
• 온도 τ, 균형 계수 λ₁ 및 λ₂, 큐 크기와 같은 하이퍼파라미터를 최적화하기 위해 튜닝되었으며, τ=0.1 및 큐 크기=1024에서 최고의 성능을 기록했다.

(b) Supervised contrastive learning with hard labels

실험 결과

연구 질문

• RQ1 연속된 밸런스 평가 점수를 소프트 레이블로 사용할 경우, 이산적인 딱딱한 레이블 대비 감성 표현 학습의 질이 향상되는가?
• RQ2 GPU 메모리 제약 하에서 모멘텀 큐를 사용할 경우 대비 학습 성능이 유의미하게 향상되는가?
• RQ3 단일 수준의 사전학습 대비 단어 수준 및 문장 수준의 병렬 사전학습은 감성 분류 성능에 어떤 영향을 미치는가?
• RQ4 온도, 모멘텀 계수, 큐 크기와 같은 하이퍼파라미터의 최적 설정은 SoftMCL 프레임워크에서 어떻게 이루어지는가?
• RQ5 SoftMCL은 감성에 민감한 사전학습을 위한 대비 학습에서 잠재 공간 붕괴를 어느 정도 완화하는가?

주요 결과

• SoftMCL은 IMDB 및 MR를 포함한 네 가지 감성 관련 벤치마크에서 최신 기술 수준의 성능을 달성하였으며, λ₁=0.25 및 λ₂=0.25에서 최고의 성능을 기록했다.
• 최적의 온도 하이퍼파라미터 τ=0.1은 IMDB 및 MR 데이터셋 전반에서 일관되게 최고의 성능을 나타내어 대비 학습의 안정성과 표현 품질 향상을 입증했다.
• 모멘텀 계수 μ=0.9는 뛰어난 성능을 내며, 느리게 진화하는 모멘텀 인코더가 표현 학습을 향상시킨다는 것을 입증했다.
• 큐 크기 1024가 최고의 성능을 기록하여 더 큰 큐가 부정 샘플의 다양성을 향상시키지만 과도한 노이즈를 유발하지 않는다는 것을 보여주었다.
• 제거 실험 결과, 단어 수준 또는 문장 수준의 사전학습을 제거할 경우 성능 저하가 일관되게 발생하여 다중 해상도 학습의 필수성을 입증했다.
• 단어 수준 사전학습은 40,000 스텝 내에, 문장 수준 사전학습은 20,000 스텝 내에 손실이 수렴함을 확인하여 모멘텀 큐의 지속적인 부정 샘플 덕분에 효율적인 학습이 가능하다는 것을 보여주었다.

(c) Supervised contrastive learning with soft labels