[論文レビュー] SentiPrompt: Sentiment Knowledge Enhanced Prompt-Tuning for Aspect-Based Sentiment Analysis

Chengxi Li, Feiyu Gao+9 more|arXiv (Cornell University)|Sep 17, 2021

Sentiment Analysis and Opinion Mining参考文献 40被引用数 57

ひとこと要約

SentiPromptは、統一的な生成フレームワークにおいてABSAのために言語モデルを調整するための感情知識を強化したプロンプトを導入し、明示的に aspect–opinion–polarity の関係をモデル化し、ABSAのサブタスクやデータセット全体で最先端の結果を達成します。

ABSTRACT

Aspect-based sentiment analysis (ABSA) is an emerging fine-grained sentiment analysis task that aims to extract aspects, classify corresponding sentiment polarities and find opinions as the causes of sentiment. The latest research tends to solve the ABSA task in a unified way with end-to-end frameworks. Yet, these frameworks get fine-tuned from downstream tasks without any task-adaptive modification. Specifically, they do not use task-related knowledge well or explicitly model relations between aspect and opinion terms, hindering them from better performance. In this paper, we propose SentiPrompt to use sentiment knowledge enhanced prompts to tune the language model in the unified framework. We inject sentiment knowledge regarding aspects, opinions, and polarities into prompt and explicitly model term relations via constructing consistency and polarity judgment templates from the ground truth triplets. Experimental results demonstrate that our approach can outperform strong baselines on Triplet Extraction, Pair Extraction, and Aspect Term Extraction with Sentiment Classification by a notable margin.

研究の動機と目的

• ABSAをマルチステージのパイプラインではなく、統一されたエンドツーエンドのタスクとして動機づける。
• 感情知識を活用して、prompts に aspect、opinion、polarity 情報を注入する。
• consistency and polarity templates を通じて、aspect と opinion term の関係を明示的にモデル化する。
• trainable prompt encoder を用いた prompt-tuning によって ABSA のサブタスクの性能を向上させる（AESC, Pair, Triplet）。

提案手法

• 統一的な生成フレームワーク（BARTとポインタネットワークを組み合わせ）を採用し、ABSA の出力をインデックス列として生成する。
• ground-truth triplets から感情知識強化プロンプトを構築し、マスク付き言語モデリングを実行することで SentiPrompt MLM を導入する。
• 訓練可能なプロンプト表現を得るためのプロンプトエンコーダを使用し、疑似プロンプトトークンの埋め込みを置き換える。
• 一貫性と極性判断プロンプトを形成してエンコーダを監督し、aspect–opinion–polarity の関係を明示的に捉える。
• SentiPrompt MLM 損失を生成損失と組み合わせて、エンコーダとインデックスジェネレータを共同訓練する。
• エンコーダ-デコーダ（BART）とポインタネットワークを用いた生成フレームワークを適用し、AESC、Pair、Triplet の各タスクで回答のインデックス（a, o, s）を予測する。

実験結果

リサーチクエスチョン

• RQ1 プロンプトに感情知識を効果的に注入して ABSA タスクを導くにはどうすればよいか？
• RQ2 タスク適応型プロンプトを持つ統一的な生成フレームワークは、マルチステージや素のファインチューニング型の ABSA モデルよりも優れているか？
• RQ3 プロンプトを介して aspect–opinion–polarity 関係を明示的にモデル化することは、トリプレット抽出と関連サブタスクを改善するか？
• RQ4 プロンプトエンコーダと連続的プロンプト表現が ABSA の性能に与える影響は？

主な発見

• SentiPrompt は、複数のサブタスクとデータセットで強力なベースラインと比較して ABSA の性能を向上させる。
• プロンプトベースの感情知識注入は、エンコーダが aspect と opinion の用語間の明示的な関係を学ぶのを助ける。
• 訓練可能なプロンプトエンコーダによる連続的プロンプト表現は、手動設計されたプロンプトよりも性能向上に寄与する。
• このアプローチは、統一フレームワーク内の AESC、Pair、Triplet タスクすべてで有効性を保つ。
• SentiPrompt はいくつかのデータセットで最先端のベースラインを上回り、ABSA のための感情知識強化済みプロンプトの有効性を示している。