[논문 리뷰] Domain Adaptation for Sentiment Analysis Using Increased Intraclass Separation

Mohammad Rostami, Aram Galstyan|arXiv (Cornell University)|2021. 07. 04.

Sentiment Analysis and Opinion Mining인용 수 5

한 줄 요약

이 논문은 감성 분석의 도메인 간 전이에서 모델의 일반화 능력을 향상시키기 위해 원천 도메인 내 동일 클래스 간 간격을 증가시키는 새로운 도메인 적응 방법을 제안한다. 이는 감성 클래스 간 큰 간격을 유도하기 위해 혼합 정규분포 모델(GMM)을 사용한다. 공유된 임bedding 공간에서 원천 도메인과 타겟 도메인의 분포를 GMM로 추정한 분포로 정렬함으로써 도메인 간 차이를 줄이고, 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성하며, 레이블 불균형에 대해서도 강건함을 보인다.

ABSTRACT

Sentiment analysis is a costly yet necessary task for enterprises to study the opinions of their customers to improve their products and to determine optimal marketing strategies. Due to the existence of a wide range of domains across different products and services, cross-domain sentiment analysis methods have received significant attention. These methods mitigate the domain gap between different applications by training cross-domain generalizable classifiers which help to relax the need for data annotation for each domain. Most existing methods focus on learning domain-agnostic representations that are invariant with respect to both the source and the target domains. As a result, a classifier that is trained using the source domain annotated data would generalize well in a related target domain. We introduce a new domain adaptation method which induces large margins between different classes in an embedding space. This embedding space is trained to be domain-agnostic by matching the data distributions across the domains. Large intraclass margins in the source domain help to reduce the effect of "domain shift" on the classifier performance in the target domain. Theoretical and empirical analysis are provided to demonstrate that the proposed method is effective.

연구 동기 및 목표

• 책, 전자기기, 음식과 같은 도메인 간 감성 표현이 크게 다름에 따라 발생하는 도메인 갭을 해결하기 위해.
• 레이블이 적은 타겟 도메인에서 도메인 갭의 영향을 줄임으로써 모델의 일반화 능력을 향상시키기 위해, 광범위한 레이블 데이터가 필요로 하지 않도록 하기 위해.
• 원천 도메인 임베딩 공간에서 클래스 간 및 클래스 내 간격을 증가시킴으로써 분류기의 강건성을 향상시키는 방법을 개발하기 위해.
• 타겟 도메인 오차의 상한선을 최소화하기 위한 이론적 근거를 제공하기 위해.
• 감성 분석에서 흔한 실제 문제인 타겟 도메인의 레이블 불균형에 대한 강건성을 평가하기 위해.

제안 방법

• 원천 도메인에서 신뢰도가 높은 예측을 기반으로 파arametric한 혼합 정규분포 모델(GMM)을 학습하여 클래스별 분포를 모델링한다.
• GMM을 사용해 원천 도메인과 타겟 도메인의 임베딩이 모두 햖थ한 분포로 정렬되도록 하여 도메인에 영향을 받지 않는 표현을 확보한다.
• 임베딩 공간에서 원천 도메인과 타겟 도메인의 분포를 GMM 분포와 정렬하기 위해 절삭된 워샤르슈타인 거리(SWD)를 사용한다.
• 신뢰도 임계값 τ를 적용하여 GMM 추정에 사용할 고신뢰도 원천 샘플을 선택함으로써 강건성과 간격 최대화를 확보한다.
• 학습 목표는 SWD를 통한 도메인 정렬과 GMM을 통한 간격 최대화를 조합하여 타겟 오차의 상한선을 최소화한다.
• 공유된 딥 인코더와 분류기 헤드를 사용해 엔드 투 엔드로 훈련하며, 특징 학습 과정에서 도메인 정렬을 강제한다.

실험 결과

연구 질문

• RQ1 원천 도메인 내 동일 클래스 간 간격을 증가시키면 도메인 간 감성 분류 성능이 향상되는가?
• RQ2 원천 도메인과 타겟 도메인을 GMM로 추정한 분포로 정렬하면 도메인 갭이 줄어들고 일반화 능력이 향상되는가?
• RQ3 레이블 불균형이 심한 타겟 도메인에서 제안된 방법의 성능은 어떻게 되는가? 이는 실제 세계에서 흔한 상황이다.
• RQ4 성능 향상 요인이 간격 최대화인지, 도메인 정렬 때문인지, 각각의 기여도는 어느 정도인가?
• RQ5 GMM 추정에 사용할 샘플을 선택하는 데 사용되는 신뢰도 임계값 τ에 대해 이 방법은 얼마나 민감한가?

주요 결과

• 제안된 방법은 B→D, B→E, D→K, E→K 등 여러 도메인 전이 작업에서 최신 기술 수준의 감성 분석 방법을 초월한다.
• 아마존 데이터셋에서 균형 잡힌 조건 하에서 D→K 전이 작업에서 86.8%의 정확도를 기록하며 이전 방법들을 능가한다.
• 심각한 레이블 불균형(90/10) 조건에서도 여전히 강력한 성능을 유지하며, D→K 작업에서 86.8%의 정확도를 기록하여 강건성을 입증한다.
• 절단 실험 결과, 간격 유도 메커니즘이 성능 향상에 크게 기여하는 것으로 나타났으며, 정렬 전용 기준(AO)의 성능은 평균 2–3% 낮게 나타났다.
• 신뢰도 임계값 τ는 성능에 명확한 영향을 미치며, 최적의 결과는 τ ≥ 0.8에서 도달되며, 이 시점에서 성능이 안정화되고 분산이 감소한다.
• UMAP 시각화 결과, 이 방법이 레이블 불균형 설정에서도 임베딩 공간에서 원천 도메인과 타겟 도메인의 분포를 효과적으로 정렬함을 확인했다.