[論文レビュー] Exploiting Coarse-to-Fine Task Transfer for Aspect-level Sentiment Classification

Zheng Li, Ying Wei+4 more|arXiv (Cornell University)|Nov 16, 2018

Sentiment Analysis and Opinion Mining参考文献 27被引用数 9

ひとこと要約

本稿では、高リソースな粗粒度のアスペクトカテゴリ（ACレベル）タスクから得られる知識を活用することで、低リソースな細粒度アスペクト・ターム（ATレベル）センチメント分類を向上させる、粗粒度から細粒度へのタスク転送フレームワークを提案する。MGANは、粗粒度から細粒度（C2F）の注意メカニズムと対照的特徴アライメントを採用し、粒度およびドメインのギャップを埋め、大規模なYelpAspectデータセットを用いた複数のクロスドメインATレベルベンチマークで最先端の性能を達成する。

ABSTRACT

Aspect-level sentiment classification (ASC) aims at identifying sentiment polarities towards aspects in a sentence, where the aspect can behave as a general Aspect Category (AC) or a specific Aspect Term (AT). However, due to the especially expensive and labor-intensive labeling, existing public corpora in AT-level are all relatively small. Meanwhile, most of the previous methods rely on complicated structures with given scarce data, which largely limits the efficacy of the neural models. In this paper, we exploit a new direction named coarse-to-fine task transfer, which aims to leverage knowledge learned from a rich-resource source domain of the coarse-grained AC task, which is more easily accessible, to improve the learning in a low-resource target domain of the fine-grained AT task. To resolve both the aspect granularity inconsistency and feature mismatch between domains, we propose a Multi-Granularity Alignment Network (MGAN). In MGAN, a novel Coarse2Fine attention guided by an auxiliary task can help the AC task modeling at the same fine-grained level with the AT task. To alleviate the feature false alignment, a contrastive feature alignment method is adopted to align aspect-specific feature representations semantically. In addition, a large-scale multi-domain dataset for the AC task is provided. Empirically, extensive experiments demonstrate the effectiveness of the MGAN.

研究の動機と目的

• 細粒度のアスペクト・ターム（AT）センチメント分類におけるラベル付きデータの不足という課題に対処するため、より豊富な粗粒度のアスペクトカテゴリ（AC）タスクからの知識を活用すること。
• ACタスクとATタスクの間で粒度の不一致を解消する。ACタスクでは位置に特化した情報が欠落しているためである。
• ソース（AC）ドメインとターゲット（AT）ドメイン間のドメインシフトおよび特徴分布の不一致を緩和すること。
• 効果的なクロスドメインおよびクロス粒度の知識転送により、低リソース環境におけるモデルの汎化性能を向上させること。
• 今後の研究のための、大規模かつマルチドメインのACレベルベンチマーク（YelpAspect）を提供すること。

提案手法

• ソース（AC）ドメインとターゲット（AT）ドメインの両方におけるアスペクト固有表現を統合的にモデル化する、マルチグレインラティチュードアライメントネットワーク（MGAN）を提案する。
• ACタスクが文脈内での対応するアスペクト語を自動的に局所化できるようにする、粗粒度から細粒度（C2F）の注意モジュールを導入する。これにより、粒度の乖離が軽減される。
• 追加のアノテーションを必要とせず、C2Fモジュールをエンド・トゥ・エンドで学習可能にするために補助タスクを採用する。
• 同じクラスのサンプル同士の類似性を最大化し、異なるクラスのサンプル同士の類似性を最小化することで、ドメイン間でアスペクト固有特徴を意味的にアライメントする対照的特徴アライメント（CFA）を適用する。
• 複数のアスペクトを含む文における誤ったアライメントを防ぐために、意味的アライメントと分離を組み合わせたポイントワイズの代替損失関数を採用する。
• 効果的な事前学習と転送のため、ドメイン1つあたり10万件のサンプルを有する大規模マルチドメインACレベルデータセット（YelpAspect）を構築する。

実験結果

リサーチクエスチョン

• RQ1 高リソースな粗粒度のアスペクトカテゴリ（AC）タスクからの知識が、低リソースな細粒度アスペクト・ターム（AT）センチメント分類タスクのパフォーマンスを向上させることができるか？
• RQ2 モデルが粒度の異なるアスペクトカテゴリとアスペクト語の間のギャップを効果的に埋め合わせることができるか？
• RQ3 対照的特徴アライメントが、クロスドメインセンチメント分類におけるドメインシフトおよび誤ったアライメントをどの程度軽減できるか？
• RQ4 提案されたC2F注意メカニズムが、アスペクト語の局所化およびセンチメント関連文脈の捉え込み能力を向上させることができるか？
• RQ5 提案されたMGANフレームワークは、限られたラベル付きターゲットデータを有する多様なドメインに一般化することができるか？

主な発見

• MGANは、複数のクロスドメインATレベルベンチマークで最先端のパフォーマンスを達成し、M-DAN や M-MMD などの手法よりも平均で正解率1.80%、マクロF1スコア1.90%の向上を示した。
• アブレーションスタディの結果、意味的分離損失を除いた場合（MGAN w/o SS）では、正解率が0.81%低下し、マクロF1スコアが1.00%低下した。これは、異なるセンチメントクラスを区別する重要性を裏付けている。
• C2F注意モジュールは、注意の局所化性能を顕著に向上させた。難易度の高いケースでは、MGANは『cuisine』に対して『italian place』、『ricotta cheese』に対して『fake junk』といったセンチメント関連語を正しく特定するが、ベースラインは失敗する。
• 可視化結果から、C2F注意は『food seafood sea』のターゲットタスクの意味論と一致する潜在的なアスペクト語（例：『shells』）を効果的に捉えていることが確認された。
• H→T転送タスクにおいて、76.93%の正解率と76.12%のマクロF1スコアを達成し、ドメイン間での強い汎化性能を示した。
• 大規模なYelpAspectデータセット（ドメイン1つあたり10万件のサンプル）は、ソースドメインとして有効であることが実証され、低リソース環境下でも強力な転送性能を実現した。