[논문 리뷰] Arabic aspect based sentiment analysis using bidirectional GRU based models

Mohammed M. Abdelgwad, Taysir Hassan A. Soliman외 2명|arXiv (Cornell University)|2021. 01. 22.

Sentiment Analysis and Opinion Mining참고 문헌 79인용 수 103

한 줄 요약

이 논문은 아랍어 기반의 감성 분석을 위한 양방향 GRU 기반 딥러닝 모델 두 가지를 제안한다: 의견 대상 추출(T2)을 위한 BGRU-CNN-CRF와, 요약 감성 극성 분류(T3)를 위한 IAN-BGRU. IAN-BGRU 모델은 SemEval-2016 아랍어 호텔 리뷰 데이터셋을 사용하여 T3에서 83.98%의 정확도를 기록하며 최신 기술 수준을 달성했고, T2에서는 기준 방법 대비 39.7%의 F1-score 향상을 보였다.

ABSTRACT

Aspect-based Sentiment analysis (ABSA) accomplishes a fine-grained analysis that defines the aspects of a given document or sentence and the sentiments conveyed regarding each aspect. This level of analysis is the most detailed version that is capable of exploring the nuanced viewpoints of the reviews. The bulk of study in ABSA focuses on English with very little work available in Arabic. Most previous work in Arabic has been based on regular methods of machine learning that mainly depends on a group of rare resources and tools for analyzing and processing Arabic content such as lexicons, but the lack of those resources presents another challenge. In order to address these challenges, Deep Learning (DL)-based methods are proposed using two models based on Gated Recurrent Units (GRU) neural networks for ABSA. The first is a DL model that takes advantage of word and character representations by combining bidirectional GRU, Convolutional Neural Network (CNN), and Conditional Random Field (CRF) making up the (BGRU-CNN-CRF) model to extract the main opinionated aspects (OTE). The second is an interactive attention network based on bidirectional GRU (IAN-BGRU) to identify sentiment polarity toward extracted aspects. We evaluated our models using the benchmarked Arabic hotel reviews dataset. The results indicate that the proposed methods are better than baseline research on both tasks having 39.7% enhancement in F1-score for opinion target extraction (T2) and 7.58% in accuracy for aspect-based sentiment polarity classification (T3). Achieving F1 score of 70.67% for T2, and accuracy of 83.98% for T3.

연구 동기 및 목표

• 아랍어 ABSA에 대한 고급 방법의 부족을 해결하기 위해 아랍어에 특화된 딥러닝 모델을 개발한다.
• 아랍어 호텔 리뷰에서 의견 대상 추출(T2)과 요약 감성 극성 분류(T3)를 향상시킨다.
• 희소한 아랍어 NLP 자원에 의존하는 전통적인 기계학습 접근 방식의 한계를 극복한다.
• 외부 어휘사전 없이도 양방향 GRU와 주의 메커니즘을 활용하여 문맥 모델링을 향상시킨다.
• SemEval-2016 아랍어 ABSA 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

제안 방법

• 의견 대상 추출(T2)을 위한 시퀀스 레이블링에 양방향 GRU, 컨볼루션 레이어, CRF를 조합한 BGRU-CNN-CRF 모델을 사용한다.
• 아랍어의 형태적 및 의미적 특징을 포착하기 위해 단어 수준 및 문자 수준의 임베딩을 입력으로 사용한다.
• 의견 어휘와 그 맥락 간의 상호작용을 모델링하기 위해 양방향 GRU를 활용한 상호작용 주의 네트워크(IAN)를 적용한다.
• 감성 분류를 위한 관련 단어에 동적으로 집중할 수 있도록 주의 메커니즘을 통합하여 표현 학습을 향상시킨다.
• 백프로파게이션을 사용하여 교차 엔트로피 손실을 최적화함으로써 T2 및 T3 작업을 종합적으로 훈련한다.
• F1-score와 정확도를 지표로 사용하여 SemEval-2016 아랍어 호텔 리뷰 데이터셋에서 모델 성능을 평가한다.

실험 결과

연구 질문

• RQ1 양방향 GRU 기반 모델이 아랍어 ABSA 작업에서 전통적인 기계학습 기반 베이스라인을 능가할 수 있는가?
• RQ2 IAN-BGRU 아키텍처는 아랍어 리뷰에서 요약-감성 의존성을 얼마나 효과적으로 포착하는가?
• RQ3 단어 수준 및 문자 수준의 임베딩은 자원이 제한된 아랍어 NLP 환경에서 의견 대상 추출에 얼마나 기여하는가?
• RQ4 주의 메커니즘의 사용은 아랍어 감성 분석에서 외부 어휘사전에 대한 의존도를 줄이는 데 기여하는가?
• RQ5 의존성에 기반한 수작업 특징 없이도 BGRU-CNN-CRF 모델이 견고한 의견 대상 추출을 달성할 수 있는가?

주요 결과

• IAN-BGRU 모델은 요약 감성 극성 분류(T3)에서 83.98%의 정확도를 기록하여 최고의 기준 방법보다 7.58%p 높은 성능을 보였다.
• BGRU-CNN-CRF 모델은 의견 대상 추출(T2)에서 70.67%의 F1-score를 기록하여 기준 방법 대비 39.7% 향상된 성능을 보였다.
• IAN-BGRU 모델은 IAN-LSTM 및 IAN-GRU와 같은 다른 변형보다도 우수한 성능을 보였으며, 이는 향상된 양방향 문맥 모델링 덕분이었다.
• 양방향 GRU의 사용으로 인해 앞뒤 방향의 장거리 의존성을 모두 포착함으로써 단방향 모델 대비 성능 향상이 이루어졌다.
• 외부 어휘사전 없이도 한 문장 내에서 위치에 대한 긍정적이고 객실에 대한 부정적인 감성과 같은 갈등 감성도 성공적으로 분류하였다.
• 제거 실험을 통해 주의 메커니즘과 양방향 모델링이 성능 향상에 크게 기여하며, MEMNET과 같은 복잡한 모델은 성능 향상에 기여하지 않는다는 것이 확인되었다.