[논문 리뷰] Joint Aspect and Polarity Classification for Aspect-based Sentiment Analysis with End-to-End Neural Networks

Martin Schmitt, Simon Steinheber외 1명|arXiv (Cornell University)|2018. 01. 01.

Sentiment Analysis and Opinion Mining참고 문헌 9인용 수 8

한 줄 요약

이 논문은 독일어 텍스트에서 목적기반 감성 분석(ABSA)을 위한 엔드 투 엔드 신경망을 제안한다. 이 모델은 합성곱 신경망(CNN)과 fasttext 단어 임베딩을 결합하여, 공동 학습과 서브워드 인식 임베딩을 통해 GermEval 2017 데이터셋에서 기존 최고 성능을 초월한다.

ABSTRACT

In this work, we propose a new model for aspect-based sentiment analysis. In contrast to previous approaches, we jointly model the detection of aspects and the classification of their polarity in an end-to-end trainable neural network. We conduct experiments with different neural architectures and word representations on the recent GermEval 2017 dataset. We were able to show considerable performance gains by using the joint modeling approach in all settings compared to pipeline approaches. The combination of a convolutional neural network and fasttext embeddings outperformed the best submission of the shared task in 2017, establishing a new state of the art.

연구 동기 및 목표

• 낮은 자원, 형태소가 풍부한 언어의 ABSA 문제를 해결하기 위해, 엔드 투 엔드 프레임워크 내에서 요약 탐지와 감성 극성 분류를 공동으로 모델링한다.
• 특히 독일어에서의 희귀 형태나 OOV(등장하지 않은 단어)에 대해 서브워드 정보를 활용한 fasttext 임베딩을 통해 성능을 향상시킨다.
• 요약 탐지와 극성 분류를 별개의 작업으로 간주하는 파이프라인 접근법의 한계를 극복하여 오류 전파를 줄인다.
• 낮은 자원 환경에서 소셜 미디어 텍스트에 특화된 사전학습의 효과를 평가한다.

제안 방법

• 모델은 원시 텍스트 입력에서 요약 카테고리와 그 감성 극성을 동시에 예측할 수 있는 엔드 투 엔드 학습 가능한 신경망을 사용한다.
• 단어 임베딩은 서브워드 정보(문자 n-그램)를 포함하는 fasttext를 사용하여 학습되며, 희귀 또는 미리보지 않은 단어의 표현을 향상시킨다.
• 세 가지 신경망 아키텍처(양방향 LSTM, CNN, 하이브리드 CNN-LSTM)를 평가하였으며, CNN 버전이 가장 뛰어난 성능을 보였다.
• 모델은 확률적 경사 하강법을 사용하여 학습되었으며, 학습률은 CNN에 대해 0.03, LSTM에 대해 0.01이며, 배치 크기는 각각 5와 10이다.
• 하이퍼파rameter는 개발 세트에서 랜덤 서치를 통해 튜닝되었으며, 요약-극성 쌍의 F1 점수를 최적화하였다.
• 소셜 미디어 텍스트에 특화된 fasttext 임베딩은 약 113,000개의 독일어 트윗( Deutsche Bahn 언급 포함)에서 학습되어 소셜 미디어 텍스트에서의 성능 향상을 이끌었다.

실험 결과

연구 질문

• RQ1 요약 탐지와 감성 극성 분류를 공동으로 모델링하는 방식이 파이프라인 접근법보다 성능 향상에 기여하는가?
• RQ2 형태소가 풍부한 언어인 독일어에서, 전통적인 word2vec과 GloVe에 비해 서브워드 인식 임베딩(fasttext)는 어떻게 성능을 높이는가?
• RQ3 일반 도메인 코퍼스(예: 위키백과) 대비 도메인 특화 소셜 미디어 텍스트에서 학습한 fasttext 임베딩이 더 나은 성능을 내는가?
• RQ4 낮은 자원 조건에서, LSTM, CNN, 또는 하이브리드 아키텍처 중 어떤 것이 공동 ABSA에서 가장 뛰어난 성능을 내는가?

주요 결과

• 엔드 투 엔드 공동 모델링 접근법은 모든 아키텍처와 임베딩 유형에서 파이프라인 베이스라인을 뛰어넘는 뚜렷한 성능 향상을 보이며, 공유 표현 학습의 이점을 입증한다.
• fasttext 임베딩을 사용한 CNN은 개발 세트에서 F1 점수 0.502, 역학적 테스트 세트에서 0.465를 기록하여 공모전 최고 성과를 초월했다.
• fasttext 임베딩은 특히 독일어의 형태적 변형과 희귀 단어 처리에서 word2vec과 GloVe를 항상 능가했다.
• 113,000개의 트윗에서 학습한 도메인 특화 fasttext 임베딩은 위키백과 기반 임베딩과 유사한 성능을 보였으며, 이는 이 작업에서 도메인 관련성은 코퍼스 크기보다 더 중요하다는 것을 시사한다.
• CNN 아키텍처는 LSTM 및 하이브리드 모델을 모두 압도하며, 노이즈가 많고 비정규적인 소셜 미디어 텍스트에 더 강건함을 보였다.
• 요약 카테고리 탐지에 대해서만 61.0%의 F1 점수를 기록하여 GermEval 베이스라인과 공모전 최고 성과 시스템을 모두 뛰어넘었다.