[論文レビュー] Multi-task Coupled Attentions for Category-specific Aspect and Opinion Terms Co-extraction.

Wenya Wang, Sinno Jialin Pan+1 more|arXiv (Cornell University)|Feb 6, 2017

Sentiment Analysis and Opinion Mining被引用数 4

ひとこと要約

本稿では、カテゴリ固有のアスペクトおよびオピニオン語抽出を共同で学習するマルチタスク結合注意メカニズムモデルを提案する。複数のタスクにおいて、アスペクトとオピニオン語の識別とカテゴリ分類を同時に学習することで、共有表現とタスク間の関係を活用し、3つのベンチマークデータセットで最先端の性能を達成した。これにより、データスパarsityの問題が効果的に解決され、より細分化されたセンチメント分析が可能になった。

ABSTRACT

In aspect-based sentiment analysis, most existing methods either focus on aspect/opinion terms extraction or aspect terms categorization. However, each task by itself only provides partial information to end users. To generate more detailed and structured opinion analysis, we propose a finer-grained problem, which we call category-specific aspect and opinion terms extraction. This problem involves the identification of aspect and opinion terms within each sentence, as well as the categorization of the identified terms. To this end, we propose an end-to-end multi-task attention model, where each task corresponds to aspect/opinion terms extraction for a specific category. Our model benefits from exploring the commonalities and relationships among different tasks to address the data sparsity issue. We demonstrate its state-of-the-art performance on three benchmark datasets.

研究の動機と目的

• アスペクトとオピニオン語抽出、または分類を独立したタスクとして扱う従来のアスペクトベースセンチメント分析手法の限界を解消すること。
• 文内のアスペクトとオピニオン語を同時に特定し、事前に定義されたカテゴリに分類することで、より細分化された意見分析を可能にすること。
• 関連する複数のタスク間で共有表現と関係を活用することで、リソースが乏しいカテゴリにおけるデータスパarsityを軽減すること。
• 複数のタスク間の依存関係を結合された注意メカニズムでモデル化するエンドツーエンドのディープラーニングフレームワークを構築すること。
• カテゴリ固有のアスペクトおよびオピニオン語共通抽出のための標準ベンチマークデータセットにおいて、優れた性能を示すこと。

提案手法

• 各タスクが特定のセンチメントカテゴリにおけるアスペクトまたはオピニオン語抽出に対応するマルチタスク学習フレームワークを採用する。
• 入力文を処理し、各トークンの文脈的表現を抽出する共有エンコーダを使用する。
• アスペクトとオピニオン語抽出タスク間の依存関係をモデル化するために、結合された注意メカニズムを適用し、タスク間での特徴学習を強化する。
• タスク固有の分類器を用いて、アスペクトおよびオピニオン語とその対応するセンチメントカテゴリを予測する。
• すべてのタスクの損失を組み合わせたジョイント損失関数を用いて、エンドツーエンドでモデルを訓練し、知識の転送を促進する。
• 注意メカニズムをタスク間で共有することで、共通性を活用し、特にリソースが乏しいカテゴリにおいて一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 アスペクトとオピニオン語抽出をカテゴリ分類と共同でモデリングすることで、独立したタスクアプローチと比較して性能が向上するか？
• RQ2 提案されたマルチタスク結合注意メカニズムは、リソースが乏しいセンチメントカテゴリにおいて、データスパarsityをどれほど効果的に軽減できるか？
• RQ3 タスク間で共有表現を学習することで、アスペクトおよびオピニオン語の共通抽出の正確性がどの程度向上するか？
• RQ4 このモデルは、カテゴリ固有のアスペクトおよびオピニオン語共通抽出のための標準ベンチマークデータセットで最先端の性能を達成するか？

主な発見

• 提案されたモデルは、3つのベンチマークデータセットにおいて、カテゴリ固有のアスペクトおよびオピニオン語共通抽出で最先端の性能を達成した。
• マルチタスク結合注意メカニズムは、関連するタスク間で共有表現を活用することで、データスパarsityの軽減に効果的であった。
• アスペクトおよびオピニオン語抽出とカテゴリ分類を共同で学習することで、単一タスクベースラインと比較して抽出精度が向上した。
• 知識の転送により、タスク間で共有される情報が活用されたため、特にリソースが乏しいセンチメントカテゴリにおいて、優れた一般化性能を示した。