[論文レビュー] Domain Adaptation for Sentiment Analysis Using Increased Intraclass Separation

Mohammad Rostami, Aram Galstyan|arXiv (Cornell University)|Jul 4, 2021

Sentiment Analysis and Opinion Mining被引用数 5

ひとこと要約

本稿では、感情分析のクロスドメイン設定において、ガウス・ミックス・モデル（GMM）を用いてソースドメイン内でのクラス内マージンを拡大することで、モデルの汎化性能を向上させる、新しいドメイン適応手法を提案する。このGMMで推定された分布に、ソースおよびターゲットドメインの分布を共有埋め込み空間で合わせることで、ドメインシフトを低減し、ベンチマークデータセットで最先端の性能を達成する。また、ラベルの不均衡に対しても頑健である。

ABSTRACT

Sentiment analysis is a costly yet necessary task for enterprises to study the opinions of their customers to improve their products and to determine optimal marketing strategies. Due to the existence of a wide range of domains across different products and services, cross-domain sentiment analysis methods have received significant attention. These methods mitigate the domain gap between different applications by training cross-domain generalizable classifiers which help to relax the need for data annotation for each domain. Most existing methods focus on learning domain-agnostic representations that are invariant with respect to both the source and the target domains. As a result, a classifier that is trained using the source domain annotated data would generalize well in a related target domain. We introduce a new domain adaptation method which induces large margins between different classes in an embedding space. This embedding space is trained to be domain-agnostic by matching the data distributions across the domains. Large intraclass margins in the source domain help to reduce the effect of "domain shift" on the classifier performance in the target domain. Theoretical and empirical analysis are provided to demonstrate that the proposed method is effective.

研究の動機と目的

• 書籍、家電、食品など、ドメインごとに感情表現が著しく異なることによるドメインギャップを是正すること。
• ラベル付きデータが限られるターゲットドメインにおけるモデルの汎化性能を向上させることを目的とし、ドメインシフトの影響を軽減する。
• ソースドメインの埋め込み空間におけるクラス間・クラス内マージンを拡大することで、分類器の頑健性を向上させる手法を開発すること。
• ターゲットドメインの誤差の上界を最小化する理論的裏付けを提供すること。
• 感情分析の現実的課題であるターゲットドメインにおけるラベルの不均衡に、本手法がどれほど頑健であるかを評価すること。

提案手法

• 信頼性の高い予測に基づき、ソースドメインからパラメトリックなガウス・ミックス・モデル（GMM）を学習し、クラス固有の分布をモデル化する。
• GMMを用いて、ソースおよびターゲットの埋め込みが向かうターゲット分布を定義し、ドメインに依存しない表現を確保する。
• 埋め込み空間において、ソースドメインおよびターゲットドメインの分布をGMM推定分布に一致させるために、スライスド・ワーサーテイン距離（SWD）を用いる。
• GMM推定に使用するサンプル選定のため、信頼度の閾値τを導入し、高信頼度のソースサンプルを選択することで、頑健性とマージン最大化を確保する。
• 訓練目的関数は、SWDによるドメイン一致とGMMを用いたマージン最大化を組み合わせ、ターゲット誤差の上界を最小化する。
• 共有ディープエンコーダーと分類器ヘッドを用いて、エンドツーエンドで学習し、特徴抽出段階でドメイン一致を強制する。

実験結果

リサーチクエスチョン

• RQ1 ソースドメインにおけるクラス内マージンの拡大は、クロスドメイン感情分析分類性能の向上に寄与するか？
• RQ2 GMMで推定された分布に、ソースおよびターゲットドメインを合わせることで、ドメインシフトが低減され、汎化性能が向上するか？
• RQ3 ラベルの不均衡が生じるターゲットドメインにおいて、本手法はどれほど頑健か？これは感情分析の現実的状況である。
• RQ4 性能向上はマージン最大化の効果によるのか、それともドメイン一致の効果によるのか？それぞれの寄与度はどの程度か？
• RQ5 GMM推定に使用する信頼度閾値τの変更に、本手法の性能はどれほど敏感か？

主な発見

• 提案手法は、B→D、B→E、D→K、E→Kといった複数のドメイン移行タスクにおいて、最先端のクロスドメイン感情分析手法を上回る性能を示した。
• アマゾンデータセットでは、D→K移行タスクにおいて、バランスの取れた条件下で86.8%の精度を達成し、先行手法を上回った。
• 極端なラベル不均衡（90/10）の状況下でも、D→Kタスクで86.8%の精度を維持し、不均衡に強い性能を示した。
• アブレーションスタディの結果、マージン誘導機構が性能向上に大きく寄与していることが判明。AO（アライメントのみ）ベースラインは平均で2–3%劣っていた。
• 信頼度閾値τは性能に明確な影響を及ぼし、τ ≥ 0.8で最適な結果が得られ、性能が安定し、ばらつきも減少した。
• UMAP可視化により、本手法が、不均衡状況下でさえも、埋め込み空間においてソースおよびターゲットの分布を効果的に一致させていることが確認された。