[論文レビュー] Position-Aware Tagging for Aspect Sentiment Triplet Extraction

Lu Xu, Hao Li+2 more|arXiv (Cornell University)|Oct 6, 2020

Sentiment Analysis and Opinion Mining参考文献 46被引用数 13

ひとこと要約

本稿では、ターゲット、センチメント、オピinionスパンを同時に捉える位置に敏感なタギング方式を用いた、エンドツーエンドの新しいモデルJETを提案する。ラベルの意味を位置情報で拡張することで、JETは複数のデータセットでパイプラインベースラインを上回り、三重項間の依存関係をより良くモデル化することで最先端の性能を達成する。

ABSTRACT

Aspect Sentiment Triplet Extraction (ASTE) is the task of extracting the triplets of target entities, their associated sentiment, and opinion spans explaining the reason for the sentiment. Existing research efforts mostly solve this problem using pipeline approaches, which break the triplet extraction process into several stages. Our observation is that the three elements within a triplet are highly related to each other, and this motivates us to build a joint model to extract such triplets using a sequence tagging approach. However, how to effectively design a tagging approach to extract the triplets that can capture the rich interactions among the elements is a challenging research question. In this work, we propose the first end-to-end model with a novel position-aware tagging scheme that is capable of jointly extracting the triplets. Our experimental results on several existing datasets show that jointly capturing elements in the triplet using our approach leads to improved performance over the existing approaches. We also conducted extensive experiments to investigate the model effectiveness and robustness.

研究の動機と目的

• 既存のパイプライン手法が、ターゲット、センチメント、オピinionスパンの間の豊かな相互作用をモデル化できないという限界を解消すること。
• 後処理によるペアリングに依存せずに、三重項の各構成要素間の構造的関係を捉えることのできる統合的なシーケンスタギングフレームワークを設計すること。
• 標準的なBIOESタギングの表現力の不足を補うために、ラベルの意味に位置情報を組み込むこと。
• より洗練されたラベル表現を通じて、精度と頑健性を向上させた状態で、アスペクトセンチメント三重項を統合的に抽出するモデルを開発すること。

提案手法

• ターゲットとオピinionスパンの相対的位置を多次元ラベルタグで符号化することで、標準的なBIOESを拡張した、新しい位置に敏感なタギング方式を提案する。
• ラベル意味の強化を活かした統合タギングフレームワーク、JETを設計し、ターゲット、センチメント、オピinionスパンのすべての三重項構成要素を同時にシーケンスタギングによって予測する。
• ターゲット、センチメント、オピinionスパンの各構成要素間の相互作用を効果的にモデル化するため、因子分解された特徴表現を採用する。
• 各トークンの深い文脈的特徴を捉えるために、BERTに基づく文脈埋め込みを入力表現として利用する。
• 2つの異なるJETバージョンの予測を統合することで、再現率と全体のF1を向上させる、JET o→t および JET t→o のアンサンブルモデルを導入する。
• 最終的なタグスコアに対してCRFデコードを適用し、一貫性があり妥当なシーケンスタギング出力を保証する。

実験結果

リサーチクエスチョン

• RQ1 表現力が向上したラベルを用いた統合的シーケンスタギングアプローチは、従来の2段階パイプライン手法を上回る性能を発揮できるか？
• RQ2 位置に敏感なタギング方式は、ターゲット、センチメント、オピinionスパンの間の構造的関係をどの程度効果的にモデル化できるか？
• RQ3 提案手法は、特に欠落した三重項を捉える能力を向上させるために、ベースラインと比較してどの程度再現率とF1が向上するか？
• RQ4 2つの補完的JETバージョンを統合するアンサンブル戦略は、異なるデータセットで一貫した性能向上をもたらすか？

主な発見

• 提案されたJETモデルは、4つのベンチマークデータセット（14S, 14L, 15S, 16S）で最先端の性能を達成し、強力なパイプラインベースラインを上回った。
• 14Rest, 14Lap, 15Restのデータセットでは、アンサンブルモデルJET t→oがJET tおよびJET oの両方を上回るF1スコアを達成し、効果的な補完性を示した。
• アンサンブルモデルは再現率を顕著に向上させ、2つのJETバージョンが異なるが有効な三重項を捉えていることが確認された。
• 位置に敏感なタギング方式は、三重項構成要素間の構造的関係を効果的に符号化でき、後処理によるペアリングなしにエンドツーエンドの統合抽出を可能にした。
• 多様なデータセットにわたってモデルは頑健であり、F1と再現率の両方で一貫した向上が見られ、特に困難なテストセットでも顕著な改善が得られた。