[論文レビュー] A Joint Training Dual-MRC Framework for Aspect Based Sentiment Analysis

Yue Mao, Yi Shen+2 more|arXiv (Cornell University)|Jan 4, 2021

Sentiment Analysis and Opinion Mining参考文献 38被引用数 29

ひとこと要約

本論文は、ABSAを2つの質問応答タスクに変換する統一的なデュアルMRCフレームワークを提案し、2つのBERT-MRCモデルを共同訓練してアスペクト用語、オピニオン用語、感情を抽出し、ABSAのサブタスク全般で最先端の結果を達成する。

ABSTRACT

Aspect based sentiment analysis (ABSA) involves three fundamental subtasks: aspect term extraction, opinion term extraction, and aspect-level sentiment classification. Early works only focused on solving one of these subtasks individually. Some recent work focused on solving a combination of two subtasks, e.g., extracting aspect terms along with sentiment polarities or extracting the aspect and opinion terms pair-wisely. More recently, the triple extraction task has been proposed, i.e., extracting the (aspect term, opinion term, sentiment polarity) triples from a sentence. However, previous approaches fail to solve all subtasks in a unified end-to-end framework. In this paper, we propose a complete solution for ABSA. We construct two machine reading comprehension (MRC) problems and solve all subtasks by joint training two BERT-MRC models with parameters sharing. We conduct experiments on these subtasks, and results on several benchmark datasets demonstrate the effectiveness of our proposed framework, which significantly outperforms existing state-of-the-art methods.

研究の動機と目的

• AE、OE、SCをエンドツーエンドで扱う統一的なABSAフレームワークの必要性を喚起する。
• ABSAのサブタスクを共有パラメータのBERTバックボーンを用いた2つのMRC問題に変換することを提案する。
• AE、OE、SC、AESC、Pair、Tripleタスクをカバーする2つのMRCモデルの共同訓練を実証する。
• ベンチマークABSAデータセットで評価し、最先端手法に対する改善を示す。

提案手法

• 共有パラメータを持つ2つのBERT-MRCモデルが文脈をエンコードする。
• 左側のMRCがアスペクト用語（AE）の開始/終了スパンを特定する。
• 右側のMRCが各ATのオピニオン用語（OE）スパンと感情極性（SC）を特定する。
• 結合損失はAE、OE/SC（AOE）、感情分類の目的を重み調整可能な形で組み合わせる。
• MRCデータセットの構築では、q1: 'Find the aspect terms in the text' および q2(AT): 'Find the sentiment polarity and opinion terms for AT in the text' を使用する。）

実験結果

リサーチクエスチョン

• RQ1 デュアルMRCモデリングによって、ABSAのサブタスクを統一的なエンドツーエンドフレームワークで解決できるか？
• RQ2 共有パラメータのBERT-MRCモデルは、AE、OE、SC、AESC、Pair、Tripleタスクの抽出と分類を、タスク特化アプローチと比較して改善するか？
• RQ3 エンドツーエンドのジョイント訓練は、ABSAにおいて二段階またはパイプライン型のアプローチより効果的かつ効率的か？
• RQ4 ABSAタスクをMRCクエリに変換することは、境界検出および感情整合性の問題にどのように影響するか？

主な発見

• 統一的デュアルMRCフレームワークは、単一モデル内でAE、OE、SC、AESC、Pair、Tripleを扱うことができる。
• 結合訓練は、共有パラメータで、複数のABSAサブタスクにおいて最先端または競合的な結果をもたらす。
• スパンベースの抽出とMRCを組み合わせることで、従来の統一タグ付け法と比較して境界検出と感情整合を改善する。
• 推論はパイプライン形式で行われ、左のMRCがATを出力し、右のMRCが各ATに対してOTと感情を出力する。
• 実証結果は SemEval ABSA タスクから派生したデータセットでベースラインより顕著な改善を示している。