[論文レビュー] Zero-Shot Aspect-Based Sentiment Analysis

Lei Shu, Xu Hu+2 more|arXiv (Cornell University)|Feb 4, 2022

Sentiment Analysis and Opinion Mining被引用数 9

ひとこと要約

本稿では、人間によるアノテーションが一切不要なゼロショットの感情分析（ABSA）を実現するため、ルールで整理されたレビュー自然言語推論（RNLI）データ上で対照的微調整を行うCORNという手法を提案する。この手法により、アノテーションなしでアスペクト抽出（AE）、アスペクト感情分類（ASC）、エンドツーエンドABSA（E2E）の3つのタスクを統合的に処理できる。ABSAタスクを自然言語推論（NLI）として定式化し、RNLIデータ上で対照的学習を用いてドメインに依存しない表現を学習することで、強力なゼロショット性能を達成。AEおよびE2Eタスクにおいてベースラインを上回り、タスク固有のアノテーションを一切不要とする。

ABSTRACT

Aspect-based sentiment analysis (ABSA) typically requires in-domain annotated data for supervised training/fine-tuning. It is a big challenge to scale ABSA to a large number of new domains. This paper aims to train a unified model that can perform zero-shot ABSA without using any annotated data for a new domain. We propose a method called contrastive post-training on review Natural Language Inference (CORN). Later ABSA tasks can be cast into NLI for zero-shot transfer. We evaluate CORN on ABSA tasks, ranging from aspect extraction (AE), aspect sentiment classification (ASC), to end-to-end aspect-based sentiment analysis (E2E ABSA), which show ABSA can be conducted without any human annotated ABSA data.

研究の動機と目的

• ドメイン内での人間によるアノテーションデータを一切必要とせずに、新しいドメインにスケーリング可能なアスペクトベースの感情分析（ABSA）を実現すること。
• ターゲットドメインにラベル付きデータが一切ない状態でも、アスペクト抽出（AE）、アスペクト感情分類（ASC）、エンドツーエンドABSA（E2E）の3つのABSAタスクに対してゼロショット転移を可能にすること。
• レビューNLIデータ上で自己教師付きの対照的微調整を用いて、ドメインに依存しないアスペクト-意見およびアスペクト-エンティティの依存関係を学習する統合モデルを開発すること。
• 高価な人間によるアノテーションに依存するのを減らすために、人間によるアノテーション済みNLIデータの代わりに、レビューNLIの例をルールベースで整理する手法を採用すること。

提案手法

• レビュー内のテキストスパンから仮説を構築することで、すべてのABSAタスク（AE、ASC、E2E）を自然言語推論（NLI）として定式化する。
• ルールベースのヒューリスティクスを用いて、ラベルなしのレビューをレビューNLI（RNLI）形式に前処理し、スパンSに対して「The product has <S>」のような仮説ペアを生成する。
• RNLIデータ上で対照的微調整を適用し、ドメインを超えてアスペクト-意見関係およびアスペクト-エンティティ関係を捉える表現を学習する。
• NLIモデルの予測結果をABSAのラベル空間に転移する：AEには含意（entailment）を、ASCには含意（positive/negative/neutral）を、E2E ABSAには統合された予測結果を用いる。
• 微調整の過程で、正しくない関係やアスペクトでないスパンと区別できるように、対照的学習の目的関数を用いることで一般化性能を向上させる。
• BARTベースの統合アーキテクチャを、レビューNLIデータ上で対照的微調整することで、3つのABSAタスクすべてに対してゼロショット推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ターゲットドメインに人間によるアノテーションデータが一切ない状態でも、統合モデルがゼロショットでアスペクト抽出（AE）を実行できるか？
• RQ2 タスク固有の微調整なしに、NLIベースの推論によってゼロショットのアスペクト感情分類（ASC）が達成可能か？
• RQ3 人間によるアノテーション済みABSA例の代わりに、ルールで整理されたNLIデータのみを用いて、エンドツーエンドABSAをゼロショットで実行できるか？
• RQ4 人間によるアノテーション済みNLIデータセットでの標準的な微調整や、人間によるアノテーション済みNLIデータセットでの微調整と比較して、ルールベースのRNLIデータ上で対照的微調整を適用する効果は何か？

主な発見

• CORNは、アスペクト抽出（AE）およびエンドツーエンドABSA（E2E）の両タスクですべてのベースラインを上回り、人間によるアノテーション済みABSAデータが一切ない状態でも最高のF1スコアを達成した。
• AEタスクにおいて、CORNはMNLI微調整済みモデル（BART+MNLI）よりも高いリCALLを達成しており、ルールベースのRNLIデータの整理にもかかわらず、アスペクト語のカバー範囲が広いことが示された。
• ASCタスクにおいて、CORNはMNLI微調整済みモデル（BART+MNLI）と同等の精度およびマクロF1スコアを達成しており、感情分類タスクにおいてもルールベースのRNLIデータの有効性が裏付けられた。
• RNLIデータ上で対照的微調整を適用することで顕著な性能向上が得られた：CORNはBART+CE+RNLIを上回っており、対照的目的関数の有効性が裏付けられた。
• ドメイン固有のRNLIデータ上で微調整を施すことで、事前学習モデルに比べてE2E ABSAで最低6.3%の性能向上が得られた。これはドメイン適応の重要性を示している。
• 定性的な分析から、CORNは「Windows 8」を正しくアスペクトとして特定し、ニュートラルな感情を割り当てている一方で、BART+MNLIは「8」を無視しており、BERT+PTは感情分類を誤っており、CORNの頑健性が浮き彫りになった。