[논문 리뷰] Zero-Shot Aspect-Based Sentiment Analysis

Lei Shu, Xu Hu외 2명|arXiv (Cornell University)|2022. 02. 04.

Sentiment Analysis and Opinion Mining인용 수 9

한 줄 요약

이 논문은 인간 레이블이 없는 도메인에 대해 zero-shot로 aspect-based sentiment analysis (ABSA)를 가능하게 하기 위해 규칙 기반으로 정제된 리뷰 자연어 추론 (RNLI) 데이터를 기반으로 한 대비 후학습 방법인 CORN을 제안한다. 이는 aspect 추출 (AE), aspect 감성 분류 (ASC), 종단간 ABSA (E2E) 작업을 포함하여 인간 레이블이 없는 ABSA 데이터를 필요로 하지 않으며, ABSA 작업을 자연어 추론(NLI)으로 변환하고 RNLI 기반의 도메인 불변 표현을 통해 대비 학습을 활용함으로써 강력한 zero-shot 성능을 달성한다. 이로 인해 AE 및 E2E 작업에서 기존의 베이스라인을 능가하며, 작업별 특화된 레이블이 필요 없어진다.

ABSTRACT

Aspect-based sentiment analysis (ABSA) typically requires in-domain annotated data for supervised training/fine-tuning. It is a big challenge to scale ABSA to a large number of new domains. This paper aims to train a unified model that can perform zero-shot ABSA without using any annotated data for a new domain. We propose a method called contrastive post-training on review Natural Language Inference (CORN). Later ABSA tasks can be cast into NLI for zero-shot transfer. We evaluate CORN on ABSA tasks, ranging from aspect extraction (AE), aspect sentiment classification (ASC), to end-to-end aspect-based sentiment analysis (E2E ABSA), which show ABSA can be conducted without any human annotated ABSA data.

연구 동기 및 목표

• 도메인 내 인간 레이블이 없는 데이터를 요구하지 않고 새로운 도메인으로 aspect-based sentiment analysis (ABSA)를 확장하는 문제를 해결하기 위해.
• 목표 도메인에서 레이블이 없는 예시가 없이도 세 가지 ABSA 작업—aspect 추출 (AE), aspect 감성 분류 (ASC), 종단간 ABSA (E2E)—에 대해 zero-shot 전이를 가능하게 하기 위해.
• 리뷰 NLI를 기반으로 한 자기지도형 대비 후학습을 통해 도메인 불변적인 aspect-opinion 및 aspect-entity 의존성에 대한 통합 모델을 개발하기 위해.
• 비용이 많이 드는 인간 레이블링에 의존도를 줄이기 위해 인간 레이블이 있는 NLI 데이터 대신 리뷰 NLI 예제를 규칙 기반으로 정제하는 방법을 도입하기 위해.

제안 방법

• 리뷰의 텍스트 스퍼를 기반으로 가설을 구성함으로써 모든 ABSA 작업(AE, ASC, E2E)을 자연어 추론(NLI)으로 변환한다.
• 규칙 기반 히우리스틱을 사용하여 레이블이 없는 리뷰를 리뷰 NLI (RNLI) 형식으로 전처리하여 '제품이 <S>'와 같은 가설 쌍을 생성한다. 여기서 S는 스퍼이다.
• RNLI 데이터 기반으로 대비 후학습을 적용하여 도메인 간 aspect-opinion 및 aspect-entity 의존성을 포착하는 표현을 학습한다.
• NLI 모델 예측 결과를 ABSA 레이블 공간으로 전이한다: AE의 경우 포함관계(entailment)를 B/I/O로, ASC의 경우 포함관계(entailment)를 양성/부정/중립으로, E2E ABSA의 경우 통합 예측을 사용한다.
• 후학습 과정에서 올바른 aspect-opinion 관계와 잘못된 또는 비aspect 스퍼를 구분할 수 있도록 대비 학습 목표를 적용하여 일반화 성능을 향상시킨다.
• 통합 BART 기반 아키텍처를 사용하여 RNLI 데이터 기반으로 대비 후학습을 통해 모든 세 가지 ABSA 작업에 대해 zero-shot 추론을 지원하는 모델을 미세조정한다.

실험 결과

연구 질문

• RQ1 목표 도메인에서 인간 레이블이 없는 데이터가 전혀 없이도 통합 모델이 zero-shot aspect 추출 (AE)을 수행할 수 있는가?
• RQ2 특화된 미세조정 없이 NLI 기반 추론을 통해 zero-shot aspect 감성 분류 (ASC)를 달성할 수 있는가?
• RQ3 인간 레이블이 있는 ABSA 예제 대신 규칙 기반으로 정제된 NLI 데이터만을 사용하여 종단간 ABSA를 zero-shot 방식으로 수행할 수 있는가?
• RQ4 표준 후학습 또는 인간 레이블이 있는 NLI 데이터셋에 대한 미세조정 대비, 규칙 기반 RNLI 데이터 기반의 대비 후학습은 얼마나 효과적인가?

주요 결과

• CORN은 인간 레이블이 없는 ABSA 데이터를 전혀 사용하지 않음에도 불구하고, aspect 추출 (AE) 및 종단간 ABSA (E2E)에서 모든 기존 베이스라인을 능가하며 가장 높은 F1 점수를 기록한다.
• AE 작업에서 CORN은 BART+MNLI 미세조정 모델보다 높은 리콜을 달성하여, 규칙 기반 RNLI 정제에도 불구하고 더 넓은 범위의 aspect 어휘를 포괄하고 있음을 시사한다.
• ASC 작업에서 CORN은 BART+MNLI 미세조정 모델과 유사한 정확도와 매크로-F1 점수를 기록하여, 감성 분류에 있어 규칙 기반 RNLI의 효과성을 입증한다.
• RNLI 기반 대비 후학습은 성능 향상에 기여하며, CORN은 BART+CE+RNLI보다 뛰어난 성능을 보이며 대비 목표의 효과성을 입증한다.
• 도메인 특화된 RNLI 데이터 기반 후학습은 사전학습 모델 대비 E2E ABSA에서 최소 6.3% 이상의 성능 향상을 이끌어내어 도메인 적응의 중요성을 강조한다.
• 정성적 분석 결과, CORN은 'Windows 8'을 aspect로 정확히 식별하고 중립 감성을 할당하는 반면, BART+MNLI는 '8'을 놓치고, BERT+PT는 감성을 잘못 분류함을 확인하여 CORN의 강건성을 입증한다.