[논문 리뷰] Knowing What, How and Why: A Near Complete Solution for Aspect-based Sentiment Analysis

Haiyun Peng, Lu Xu외 4명|arXiv (Cornell University)|2019. 11. 05.

Sentiment Analysis and Opinion Mining참고 문헌 19인용 수 28

한 줄 요약

이 논문은 통합 프레임워크 내에서 논의 대상(아이템), 감성 극성(어떻게), 그리고 감성의 이유(왜)를 동시에 추출하는 새로운 작업인 아спект 감성 트리플릿 추출(ASTE)을 소개한다. 제안된 이중 단계 모델은 먼저 감성과 의견 어휘를 갖춘 아키텍처를 식별하고, 이후 이중 분류기를 통해 이를 쌍으로 묶어, 기준 데이터셋에서 최고 성능을 기록한다.

ABSTRACT

Target-based sentiment analysis or aspect-based sentiment analysis (ABSA) refers to addressing various sentiment analysis tasks at a fine-grained level, which includes but is not limited to aspect extraction, aspect sentiment classification, and opinion extraction. There exist many solvers of the above individual subtasks or a combination of two subtasks, and they can work together to tell a complete story, i.e. the discussed aspect, the sentiment on it, and the cause of the sentiment. However, no previous ABSA research tried to provide a complete solution in one shot. In this paper, we introduce a new subtask under ABSA, named aspect sentiment triplet extraction (ASTE). Particularly, a solver of this task needs to extract triplets (What, How, Why) from the inputs, which show WHAT the targeted aspects are, HOW their sentiment polarities are and WHY they have such polarities (i.e. opinion reasons). For instance, one triplet from "Waiters are very friendly and the pasta is simply average" could be ('Waiters', positive, 'friendly'). We propose a two-stage framework to address this task. The first stage predicts what, how and why in a unified model, and then the second stage pairs up the predicted what (how) and why from the first stage to output triplets. In the experiments, our framework has set a benchmark performance in this novel triplet extraction task. Meanwhile, it outperforms a few strong baselines adapted from state-of-the-art related methods.

연구 동기 및 목표

• 논의 대상, 감성 극성, 감성의 이유를 모두 포괄하는 통합 작업을 도입하여 아키텍처 기반 감성 분석(ABSA)의 격차를 메운다.
• 이전 연구가 하위 작업이나 하위 작업의 조합만 별도로 해결하여 감성의 완전한 서사를 제공하지 못하는 한계를 극복한다.
• 아키텍처와 의견 어휘 간 상호 영향을 모델링하는 이중 단계 프레임워크를 제안하여 트리플릿 추출 정확도를 향상시킨다.
• 종합적인 감성 서사를 한 번에 포착하는 엔드 투 엔드 아키텍처 감성 트리플릿 추출을 위한 새로운 벤치마크를 수립한다.

제안 방법

• 의견 어휘에 대한 BIO 유사 태깅과 아키텍처 및 감성에 대한 통합 스키마를 결합한 통합 태깅 체계를 사용한다.
• 이중 단계 프레임워크를 구현한다: 1단계에서는 이중 브랜치 BLSTM 아키텍처와 감성 일관성에 대한 게이트 메커니즘을 사용하여 후보 아키텍처와 감성, 의견 어휘를 예측한다.
• 아키텍처와 의견 어휘 간 관계를 모델링하는 상호 영향 모듈(TG)을 도입하지만, 분석 결과에서 노이즈를 유발할 수 있음.
• 2단계에서는 신뢰도 점수를 기반으로 예측된 아키텍처와 의견 어휘를 이진 분류기를 통해 쌍으로 묶는다. 이때 골드 표준 학습 쌍을 사용한다.
• 양방향 아키텍처 예측 및 의견 예측을 위한 문맥 기반 인코더(BLSTM^OPT)를 공유하여 문장 수준의 표현을 향상시킨다.
• 시퀀스 태깅을 위한 교차 엔트로피 손실과 트리플릿 쌍 지정을 위한 이진 교차 엔트로피 손실을 사용하여 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 단일 모델이 논의 대상, 감성 극성, 감성의 이유를 동시에 효과적으로 추출할 수 있는가?
• RQ2 아키텍처와 의견 어휘 간 상호 영향을 모델링할 경우 트리플릿 추출 성능에 어떤 영향을 미치는가?
• RQ3 후보 추출 후 쌍 지정을 수행하는 이중 단계 접근 방식이 이 작업에서 엔드 투 엔드 공동 모델링보다 우수한가?
• RQ4 상호 영향 게이트(TG)와 같은 보조 구성 요소가 성능을 얼마나 향상 또는 악화시키는가?
• RQ5 기존 베이스라인과 비교해 제안된 프레임워크가 아키텍처 감성 트리플릿 추출 분야에서 새로운 벤치마크를 설정할 수 있는가?

주요 결과

• 제안된 이중 단계 모델은 ASTE 벤치마크에서 기존 최고 성능(SOTA) 방법을 개선한 강력한 베이스라인에 비해 최고의 성능을 기록한다.
• BLSTM^OPT 구성 요소를 제거할 경우 모든 데이터셋에서 일관된 성능 저하가 발생하여, 문맥 정보를 포착하는 데 그 중요성이 입증된다.
• 상호 영향 게이트(TG) 모듈은 아키텍처-의견 간 상호 영향을 모델링하기 위해 도입되었지만, 대부분의 경우 성능을 저하시키며, 특히 이질적인 데이터셋(14lap, 14res)에서는 노이즈를 유발할 수 있다.
• 15res 데이터셋에서는 Li-unified-R+라는 변종이 쌍 지정 성능에서 제안된 모델를 略히 뛰어넘어, 쌍 지정 전략의 향상 여지를 시사한다.
• 일부 경우(예: 'wasn’t so fresh')에서는 부정된 의견을 성공적으로 포착하지만, 한 개의 아키텍처에 여러 의견이 연결될 경우 쌍 지정이 여전히 어려운 도전 과제로 남아 있다.
• 최종 트리플릿 추출 성능는 기존의 기준 방법보다 일관되게 높으며, 이는 이중 단계 설계가 잡음 신호를 줄이고 정확도를 향상시키는 데 효과적임을 확인한다.