[論文レビュー] FaiMA: Feature-aware In-context Learning for Multi-domain Aspect-based Sentiment Analysis

Songhua Yang, Xinke Jiang+4 more|arXiv (Cornell University)|Mar 2, 2024

Sentiment Analysis and Opinion Mining被引用数 4

ひとこと要約

FaiMAは、ヒューリスティックに最適化された特徴エンコーディングと対照学習を介して、グラフニューラルネットワークと大規模言語モデルを統合する、特徴に配慮したコンテキスト内学習フレームワークを提案する。コンテキストに配慮したプロンプティングのための安定的で多次元の例の検索を可能にすることで、ベースライン比で平均F1スコアを2.07%向上させる。

ABSTRACT

Multi-domain aspect-based sentiment analysis (ABSA) seeks to capture fine-grained sentiment across diverse domains. While existing research narrowly focuses on single-domain applications constrained by methodological limitations and data scarcity, the reality is that sentiment naturally traverses multiple domains. Although large language models (LLMs) offer a promising solution for ABSA, it is difficult to integrate effectively with established techniques, including graph-based models and linguistics, because modifying their internal architecture is not easy. To alleviate this problem, we propose a novel framework, Feature-aware In-context Learning for Multi-domain ABSA (FaiMA). The core insight of FaiMA is to utilize in-context learning (ICL) as a feature-aware mechanism that facilitates adaptive learning in multi-domain ABSA tasks. Specifically, we employ a multi-head graph attention network as a text encoder optimized by heuristic rules for linguistic, domain, and sentiment features. Through contrastive learning, we optimize sentence representations by focusing on these diverse features. Additionally, we construct an efficient indexing mechanism, allowing FaiMA to stably retrieve highly relevant examples across multiple dimensions for any given input. To evaluate the efficacy of FaiMA, we build the first multi-domain ABSA benchmark dataset. Extensive experimental results demonstrate that FaiMA achieves significant performance improvements in multiple domains compared to baselines, increasing F1 by 2.07% on average. Source code and data sets are anonymously available at https://github.com/SupritYoung/FaiMA.

研究の動機と目的

• 多様なドメインにまたがるアスペクトベースのセンチメント分析の一般化の課題に対処すること。単一ドメイン手法では、データ不足とドメインシフトのため失敗する。
• 大規模言語モデルの内部アーキテクチャを変更せずに、言語的特徴、ドメイン固有の特徴、センチメント特徴を統合すること。
• コンテキストに配慮した学習性能を向上させるために、安定的で多次元の例の検索メカニズムを開発すること。
• 標準化された評価を可能にするための、包括的な多ドメインABSのベンチマークデータセットを構築すること。
• コンテキスト内学習が、構造的かつ代表的な例によってガイドされた場合、特徴に配慮したメカニズムとして機能しうることを実証すること。

提案手法

• FaiMAは、言語的特徴、ドメイン、センチメント特徴の各要素をヒューリスティックルールで最適化した、マルチヘッドグラフアテンションネットワークをテキストエンコーダーとして採用する。
• 文の表現を改善するために、多様な特徴固有の信号を強調することで、対照学習を適用する。
• 効率的なインデキシング機構により、任意の入力に対して、複数の特徴次元にわたって、関連性の高い例を安定して検索可能である。
• コンテキスト内学習を、検索された例をプロンプトに組み込んで大規模言語モデルをガイドする、特徴に配慮したメカニズムとして活用する。
• 大規模言語モデルの内部アーキテクチャを変更せずに、グラフベースのエンコーディングと大規模言語モデルを統合する。
• 動的例選択により、複数ドメインにわたるゼロショットおよびフェイワショットの適応をサポートする。

実験結果

リサーチクエスチョン

• RQ1 コンテキスト内学習は、多ドメインABSにおいて、効果的に特徴に配慮したメカニズムとして再利用可能か？
• RQ2 言語的特徴、ドメイン特徴、センチメント特徴は、大規模言語モデルベースのABSに体系的にエンコーディング・最適化できるか？
• RQ3 対照学習は、多ドメインABSにおける文の表現品質にどのような影響を与えるか？
• RQ4 安定的で多次元の例の検索は、コンテキスト内学習のパフォーマンスをどのように向上させるか？
• RQ5 微調整なしで、統一されたフレームワークが多様なドメインにどれほど一般化可能か？

主な発見

• FaiMAは、複数ドメインにわたる強力なベースライン比で平均F1スコアを2.07%向上させる。
• グラフベースの特徴エンコーディングとコンテキスト内学習の統合は、モデルの一般化能力とロバストネスを顕著に向上させる。
• 提案されたインデキシング機構により、言語的特徴、ドメイン特徴、センチメント特徴の各次元で、信頼性のある関連例の検索が可能になる。
• 対照学習は、多様な特徴信号を強調することで、文の表現品質を効果的に向上させる。
• 新たに構築された多ドメインABSベンチマーク上で、ゼロショットおよびフェイワショットのパフォーマンスが強く示された。
• FaiMAは、単一ドメインおよびクロスドメインの両設定で、既存手法を上回り、一般化能力の有効性を裏付けた。