[論文レビュー] Explicit Interaction Network for Aspect Sentiment Triplet Extraction

Peiyi Wang, Tianyu Liu+4 more|arXiv (Cornell University)|Jun 21, 2021

Sentiment Analysis and Opinion Mining参考文献 43被引用数 4

ひとこと要約

本稿は、ターゲット・オピニオンの同時検出とセンチメント分類に分けることで、タスクを段階的に処理する明示的相互作用ネットワーク（Explicit Interaction Network）を提案する。このネットワークは、トークンペアレベルでの構成的特徴を捉えるために、シーケンスエンコーダーとテーブルエンコーダーを用いる。モジュール間の双方向的で明示的な相互作用により、6つのASTEデータセットで最先端の性能を達成し、特に複数のトリプレットを含む「many-to-one」の状況において顕著な向上を示す。

ABSTRACT

Aspect Sentiment Triplet Extraction (ASTE) aims to recognize targets, their sentiment polarities and opinions explaining the sentiment from a sentence. ASTE could be naturally divided into 3 atom subtasks, namely target detection, opinion detection and sentiment classification. We argue that the proper subtask combination, compositional feature extraction for target-opinion pairs, and interaction between subtasks would be the key to success. Prior work, however, may fail on `one-to-many' or `many-to-one' situations or derive non-existent sentiment triplets due to defective subtask formulation, sub-optimal feature representation or the lack of subtask interaction. In this paper, we divide ASTE into target-opinion joint detection and sentiment classification subtasks, which is in line with human cognition, and correspondingly utilize sequence encoder and table encoder to handle them. Table encoder extracts sentiment at token-pair level, so that the compositional feature between targets and opinions can be easily captured. To establish explicit interaction between subtasks, we utilize the table representation to guide the sequence encoding, and inject the sequence features back into the table encoder. Experiments show that our model outperforms state-of-the-art methods on six popular ASTE datasets.

研究の動機と目的

• 『many-to-one』および『one-to-many』のセンチメントトリプレット状況を処理する際の、従来のASTE手法の限界を是正すること。
• ターゲット・オピニオン検出とセンチメント分類の間で、暗黙的かつ共有エンコーダーを介した通信を、明示的かつ双方向的な相互作用に置き換えることで、サブタスク間の相互作用を向上させること。
• トークンレベルの特徴に依存するのではなく、トークンペアレベルでの構成的特徴をモデル化することにより、存在しないトリプレットの誤検出を低減すること。
• モデルのサブタスク定式化を人間の認知プロセスに合わせること—すなわち、ターゲットとオピニオンを一緒に評価してセンチメントを判断すること。
• 特に高難易度で複数トリプレットを含む文において、6つのベンチマークASTEデータセットで最先端の性能を達成すること。

提案手法

• モデルはASTEを2つのコンponentに分割する：シーケンスエンコーダーを用いたターゲット・オピニオンの同時検出、およびテーブルエンコーダーを用いたセンチメント分類。
• テーブルエンコーダーは、ターゲットとオピニオンの間の構成的特徴を直接、トークンペアレベルで生成する。
• 明示的な双方向相互作用は、テーブルガイドドアテンションにより確立される。ここで、テーブル表現がシーケンスエンコーディングをガイドし、シーケンス特徴が再びテーブルエンコーダーに組み込まれる。
• この手法は、文脈エンコーディングに使用されるシーケンスエンコーダー（例：BERT）と、すべてのターゲット・オピニオンペアを並列に処理してセンチメント極性を予測するテーブルエンコーダーを用いる。
• 相互作用メカニズムにより、各モジュールは相手からの有用な情報を選択的に利用でき、干渉を低減し、より頑健な性能を実現する。
• モデルは、トリプレット予測におけるクロスエントロピー損失を用いてエンド・ツー・エンドで訓練され、検出とセンチメント分類の両方を同時に最適化する。

実験結果

リサーチクエスチョン

• RQ1 サブタスク間の明示的かつ双方向的相互作用は、暗黙的または単方向的相互作用と比較して、ASTEの性能をどのように向上させるか？
• RQ2 センチメントをトークンペアレベルでモデル化することで、存在しないトリプレットの誤検出を減少させられるか？
• RQ3 人間の認知プロセスに合わせたサブタスクの組み合わせ—すなわち、ターゲット・オピニオンペアに基づいてセンチメントを評価すること—は、複数トリプレットを含む複雑な文において、より良い性能をもたらすか？
• RQ4 1つのターゲットに対して複数のセンチメント極性を持つ『many-to-one』の状況では、モデルはどのように性能を発揮するか？
• RQ5 テーブルエンコーダーによる構成的特徴抽出は、曖昧または重複するセンチメント表現を処理する際、トークンレベルの特徴モデリングに比べてどの程度優れているか？

主な発見

• 提案されたモデルは、15Lap、14Rest、15Rest、16Restの各データセットで、ベースラインと比較してそれぞれ+3.72、+4.90、+7.93、+8.73のF1スコアの絶対的向上を達成し、6つの代表的ASTEデータセットで最先端の性能を示した。
• 14Lapデータセットでは、F1スコアが71.13を記録し、次善の手法JET_o（68.73）およびGTS（63.83）を顕著に上回った。
• 複数トリプレットを含む文において顕著な優位性を示し、14Restでは58.21%の文が複数トリプレットを含んでおり、性能向上が最も顕著に現れた。
• 5つのゴールデントリプレットを含む事例スタディでは、モデルは全5つを正しく抽出したが、JET_oは2つを漏れ、JET_oおよびGTSは強いセンチメント語に起因してそれぞれ2つの誤検出を出した。
• 図8に示すように、1文あたりのトリプレット数が増えるほど、モデルの性能向上が顕著に増大し、複雑で高難易度のケースにおける優れた頑健性を示している。
• 複数トリプレットを含む文の割合（R_t>1）は、性能向上と強く相関しており、特に14Rest（58.21%の文が複数トリプレットを含む）で最大の向上（F1スコア+8.73）を記録した。