[논문 리뷰] A Unified Generative Framework for Aspect-Based Sentiment Analysis

Hang Yan, Junqi Dai외 3명|arXiv (Cornell University)|2021. 06. 08.

Sentiment Analysis and Opinion Mining참고 문헌 44인용 수 11

한 줄 요약

이 논문은 포인터 및 감성 클래스 인덱스를 사용하여 모든 일곱 가지 하위작업—개별 어휘 항목 추출, 의견 어휘 항목 추출, 감성 분류 및 그 조합—을 일관된 시퀀스 생성 작업으로 재정의하는 통합 생성 프레임워크를 제안한다. BART와 같은 사전 훈련된 시퀀스 투 시퀀스 모델을 활용하여 아키텍처 수정 없이 종단 간 방식으로 모든 하위작업에서 최신 기술 수준의 성능을 달성하며, 네 가지 공개 데이터셋에서 상당한 성능 향상을 보였다.

ABSTRACT

Aspect-based Sentiment Analysis (ABSA) aims to identify the aspect terms, their corresponding sentiment polarities, and the opinion terms. There exist seven subtasks in ABSA. Most studies only focus on the subsets of these subtasks, which leads to various complicated ABSA models while hard to solve these subtasks in a unified framework. In this paper, we redefine every subtask target as a sequence mixed by pointer indexes and sentiment class indexes, which converts all ABSA subtasks into a unified generative formulation. Based on the unified formulation, we exploit the pre-training sequence-to-sequence model BART to solve all ABSA subtasks in an end-to-end framework. Extensive experiments on four ABSA datasets for seven subtasks demonstrate that our framework achieves substantial performance gain and provides a real unified end-to-end solution for the whole ABSA subtasks, which could benefit multiple tasks.

연구 동기 및 목표

• 입력, 출력, 작업 유형의 다원성으로 인해 모든 일곱 가지 ABSA 하위작업을 통합할 수 있는 프레임워크가 부족한 점을 해결하기 위해.
• ABSA에서 작업별 디코더나 파이프라인 아키텍처가 필요 없도록 하기 위해.
• 단일 시퀀스 투 시퀀스 모델을 사용하여 모든 하위작업에서 종단 간 훈련 및 추론을 가능하게 하기 위해.
• 최소한의 아키텍처 변경으로 다양한 ABSA 벤치마크에서 뛰어난 성능을 달성하기 위해.

제안 방법

• 출력을 포인터 인덱스(개별 어휘 및 의견 어휘 범위용)와 감성 클래스 인덱스의 시퀀스로 표현하여 모든 ABSA 하위작업을 통합된 시퀀스 생성 작업으로 재정의한다.
• 목표 시퀀스를 종단 간 방식으로 생성하기 위해 BART 사전 훈련된 시퀀스 투 시퀀스 모델을 백본으로 사용한다.
• 같은 출력 시퀀스 내에서 시작 및 끝 토큰 인덱스로 개별 어휘 및 의견 어휘 범위를 표현하고, 감성 극성은 클래스 인덱스로 표현한다.
• 여러 데이터셋에서 종단 간 훈련을 수행하여 하위작업 간 제로샷 또는 희소한 few-shot 일반화를 가능하게 한다.
• 안정적인 추론 성능을 확보하기 위해 비드 사이즈 분석을 포함한 비드 서치 디코딩을 적용한다.
• 추론 중에 잘못된 예측(예: 순서가 맞지 않는 인덱스 또는 잘못된 서브워드 토큰)을 걸러내어 신뢰성을 향상시킨다.

실험 결과

연구 질문

• RQ1 모든 일곱 가지 ABSA 하위작업을 작업별 디코더 없이 단일 생성 시퀀스 투 시퀀스 프레임워크로 통합할 수 있는가?
• RQ2 제안된 인덱스 기반 시퀀스 생성 방식은 하위작업 간 입력 및 출력 이질성 문제를 어떻게 다루는가?
• RQ3 BART 기반 모델은 동시에 모든 하위작업에서 기존 최신 기술 수준의 방법보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 통합 프레임워크는 다양한 데이터셋과 하위작업 조합에서도 높은 성능을 유지하는가?
• RQ5 비드 사이즈와 같은 하이퍼파라미터 선택에 대해 프레임워크는 얼마나 강건한가?

주요 결과

• 제안된 프레임워크는 네 가지 공개 데이터셋에서 모든 일곱 가지 하위작업에서 상당한 성능 향상을 달성했으며, 14res에서 최대 13 F1 포인트, 16res에서 12 F1 포인트의 향상을 기록했다.
• 14res, 14lap, 15res, 16res 각각에 대해 재현율 점수에서 약 13, 9, 7, 12 점의 절대 F1 포인트 향상을 기록하여 강력한 일반화 능력을 보였다.
• 비드 사이즈가 F1 점수에 미치는 영향이 미미하여 추론 성능이 안정적이고 강건함을 시사한다.
• 잘못된 예측 비율(5개 길이가 아니거나 순서가 맞지 않거나 잘못된 서브워드 인덱스)이 낮게(3.7% 이하) 유지되어 생성 형식의 실용적 타당성을 확인했다.
• 이 프레임워크는 단일 모델이 일곱 가지 ABSA 하위작업을 모두 평가한 최초의 사례로, 통합 ABSA 시스템의 새로운 벤치마크를 설정했다.
• 모든 하위작업에서 기존 최신 기술 수준의 모델을 초월하여, 통합 인덱스 기반 생성 접근 방식의 효과성을 입증했다.