[論文レビュー] Open-Domain Targeted Sentiment Analysis via Span-Based Extraction and Classification

Minghao Hu, Yuxing Peng+3 more|arXiv (Cornell University)|Jun 10, 2019

Sentiment Analysis and Opinion Mining参考文献 41被引用数 23

ひとこと要約

本稿では、オープンドメインの的を経て感情分析を行うためのスパンベースの抽出・分類フレームワークを提案する。従来のシーケンスタグ付き手法に代わり、直接スパンを抽出し、スパン表現に基づく極性分類を実行する。この手法は、シーケンスタグ付きベースラインを著しく上回り、パイプラインモデルは3つのベンチマークデータセットで最先端の性能を達成した。これは、探索空間を縮小し、複数語のターゲットに対する感情の一貫性を向上させることで実現された。

ABSTRACT

Open-domain targeted sentiment analysis aims to detect opinion targets along with their sentiment polarities from a sentence. Prior work typically formulates this task as a sequence tagging problem. However, such formulation suffers from problems such as huge search space and sentiment inconsistency. To address these problems, we propose a span-based extract-then-classify framework, where multiple opinion targets are directly extracted from the sentence under the supervision of target span boundaries, and corresponding polarities are then classified using their span representations. We further investigate three approaches under this framework, namely the pipeline, joint, and collapsed models. Experiments on three benchmark datasets show that our approach consistently outperforms the sequence tagging baseline. Moreover, we find that the pipeline model achieves the best performance compared with the other two models.

研究の動機と目的

• オープンドメインの的を経て感情分析におけるシーケンスタグ付き手法の限界、例えば大きな探索空間や複数語のターゲットにおける感情の一貫性の欠如を是正すること。
• ターゲットスパンをその極性とともに直接アノテートするスパンベースのラベル付け方式を設計すること。
• パイプライン、ジョイント、コラプスの3つの学習方式を用いて、BERTベースのモデルにおける抽出・分類フレームワークの有効性を評価すること。
• 全ターゲット表現を用いたスパンレベルの極性分類が、ワードレベルのタグ付き手法を上回ることを示すこと。

提案手法

• 文脈表現のためのバックボーンネットワークとして事前学習済みBERTエンコーダーを用いる。
• 複数の候補となる意見ターゲットを文から抽出するために、ヒューリスティックなマルチスパンデコードアルゴリズムを採用する。
• 全ターゲットスパンのプールド表現を用いて感情極性を予測するスパンレベルの極性分類器を適用する。
• 各ターゲットをその開始・終了位置と感情極性でアノテートするスパンベースのラベル付け方式を導入する。
• 3つの学習パラダイムを比較する：パイプライン（抽出後に分類）、ジョイント（共有パラメータを用いたエンドツーエンド）、コラプス（1つのタグでスパンと極性を同時に予測）。
• 全ターゲットを1つのユニットとしてモデル化することで、複数語のターゲットにおける感情の一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 オープンドメインの的を経て感情分析において、スパンベースのラベル付け方式は、シーケンスタグ付き手法に比べ、探索空間を縮小し、性能を向上させるか？
• RQ2 パイプライン、ジョイント、コラプスの各モデルは、スパンベースのフレームワーク下で、性能と頑健性の観点からどのように比較されるか？
• RQ3 スパンレベルの極性分類は、ワードレベルのタグ付き手法に比べ、複数語のターゲットにおける感情の一貫性を是正できるか？
• RQ4 抽出・分類フレームワークは、標準ベンチマークデータセットにおいて、シーケンスタグ付きベースラインを上回るか？
• RQ5 この設定において、パイプラインモデルがジョイントおよびコラプスモデルを上回る理由は何か？

主な発見

• スパンベースのアプローチは、LAPTOP、REST、TWITTERの3つのベンチマークデータセットで最先端の性能を達成した。極性分類において、タグ付きベースライン比でそれぞれ9.97%、8.15%、15.4%の絶対的向上を示した。
• パイプラインモデルは、ジョイントおよびコラプスモデルを一貫して上回り、抽出と分類を分離することで全体の性能が向上することを示している。
• スパンレベルの極性分類器は、感情の一貫性を低下させない。これは、ターゲット長が変化しても安定した性能を示すことで裏付けられており、タグ付きベースラインとは対照的に、長めのターゲットでは精度が著しく低下する。
• LAPTOPデータセットでは、スパンベース手法が極性分類で81.39%の精度を達成し、以前の最先端モデルを上回った。
• マルチターゲット抽出器は、長文において特に効果的であり、タグ付き手法は複雑さとラベルの合成性の増加により、困難を示す。
• 事例研究により、タグ付きベースラインは複数語のターゲットにわたり感情の一貫性を維持できないことが確認されたが、スパンベース手法は全ターゲットを1つのユニットとしてモデル化することで、この問題を回避した。