[논문 리뷰] Bidirectional Machine Reading Comprehension for Aspect Sentiment Triplet Extraction

Shaowei Chen, Yu Wang외 2명|arXiv (Cornell University)|2021. 03. 13.

Sentiment Analysis and Opinion Mining인용 수 4

한 줄 요약

이 논문은 비재귀적, 제한적, 감성 분류 쿼리 유형을 갖춘 다회차 MRC 과정으로 변환함으로써, 비방향성 추론을 통해 복잡한 관계를 포착하고 삼중항 추출 성능을 햖थ고, 사전적, 감성, 의견 표현을 동시에 추출하는 이면적 감성 삼중항 추출(ASTE)을 위한 비방향성 기계적 읽기 이해(BMRC) 프레임워크를 제안한다. 이로 인해 네 가지 벤치마크 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Aspect sentiment triplet extraction (ASTE), which aims to identify aspects from review sentences along with their corresponding opinion expressions and sentiments, is an emerging task in fine-grained opinion mining. Since ASTE consists of multiple subtasks, including opinion entity extraction, relation detection, and sentiment classification, it is critical and challenging to appropriately capture and utilize the associations among them. In this paper, we transform ASTE task into a multi-turn machine reading comprehension (MTMRC) task and propose a bidirectional MRC (BMRC) framework to address this challenge. Specifically, we devise three types of queries, including non-restrictive extraction queries, restrictive extraction queries and sentiment classification queries, to build the associations among different subtasks. Furthermore, considering that an aspect sentiment triplet can derive from either an aspect or an opinion expression, we design a bidirectional MRC structure. One direction sequentially recognizes aspects, opinion expressions, and sentiments to obtain triplets, while the other direction identifies opinion expressions first, then aspects, and at last sentiments. By making the two directions complement each other, our framework can identify triplets more comprehensively. To verify the effectiveness of our approach, we conduct extensive experiments on four benchmark datasets. The experimental results demonstrate that BMRC achieves state-of-the-art performances.

연구 동기 및 목표

• 통합 프레임워크 내에서 요약, 의견 표현, 감성을 동시에 추출하는 데 도전하는 것.
• 일对다, 다대일, 겹치는 경우를 포함한 요약과 의견 표현 간의 복잡하고 비직관적인 관계를 모델링하는 것.
• 공동 학습을 통해 탐지된 요약-의견 관계를 활용해 감성 분류를 향상시키는 것.
• 일방향 추출의 한계를 극복하기 위해 요약-먼저 및 의견-먼저 추론 경로를 모두 가능하게 하는 것.
• ASTE를 다회차 기계적 읽기 이해 작업으로 공식화하여, 작업 간 종속성을 더 잘 포착하는 것.

제안 방법

• ASTE 작업은 비재귀적 추출, 제한적 추출, 감성 분류의 세 가지 쿼리 유형을 갖춘 다회차 기계적 읽기 이해(MTMRC) 작업으로 공식화된다.
• 비재귀적 쿼리는 쌍 내에서 첫 번째 엔티티(요약 또는 의견 표현)를 식별하는 데 사용되며, 제한적 쿼리는 첫 번째 엔티티를 사전 지식으로 삼아 두 번째 엔티티를 위치시키는 데 사용된다.
• 비방향성 MRC 구조는 두 가지 추론 방향을 가능하게 한다: 하나는 요약에서 시작하는 (A→O), 다른 하나는 의견 표현에서 시작하는 (O→A) 것으로, 상호 보완적인 추출이 가능하다.
• 감성 분류 단계에서는 추출된 요약-의견 쌍을 문맥으로 사용해 해당 감성 극성(긍/부정)을 예측한다.
• 모든 세 단계에서 공동 학습을 적용하여 관계가 감성 분류를 이끄는 방식으로 설계된다.
• BERT는 문맥적 표현을 캡처하기 위한 기본 인코더로 사용되며, BERT 없이도 모델이 뛰어난 성능을 내는 것으로 나타났다.

실험 결과

연구 질문

• RQ1 ASTE를 다회차 MRC 작업으로 변환함으로써 요약, 의견 표현, 감성의 공동 추출 성능이 향상되는가?
• RQ2 요약 또는 의견 표현에서 시작하는 비방향성 추론이 일방향 접근 방식에 비해 삼중항 추출 성능을 얼마나 향상시키는가?
• RQ3 관계 인식 감성 분류와 쿼리 기반 상호작용이 감성 분류 정확도에 얼마나 기여하는가?
• RQ4 제안된 쿼리 설계가 겹치는 또는 내장된 형태의 복잡한 요약-의견 관계를 얼마나 잘 포착하는가?
• RQ5 BERT와 제안된 아키텍처 혁신(예: 비방향성 MRC, 쿼리 유형) 중 어느 것이 전체 성능에 더 큰 기여를 하는가?

주요 결과

• BMRC 모델은 네 가지 벤치마크 데이터셋에서 최신 기술 수준 성능을 달성했다: 14-Lap에서 59.27% F1, 14-Res에서 70.69%, 15-Res에서 61.05%, 16-Res에서 68.13%.
• 비방향성 MRC 구조는 성능 향상에 크게 기여했으며, 각 일방향 변형(‘Ours w/o AO’ 및 ‘Ours w/o OA’)은 편향된 추출 경로로 인해 성능이 열 劣하다.
• 관계 인식 감성 분류를 제거하면(‘Ours w/o REQ’), 요약-의견 쌍 및 삼중항 추출 F1가 크게 감소하여, 관계가 감성 분류를 향상시킨다는 점을 입증한다.
• BERT 없이도 TSF보다 평균 8.15% 높은 삼중항 추출 F1 성능을 기록함으로써, 아키텍처 혁신이 BERT 자체보다 더 큰 기여를 한다는 것을 보여준다.
• 완전한 모델은 ‘Ours w/o REQ’ 대비 10.4% F1 향상으로, 비방향성 MRC와 쿼리 설계의 조합이 가장 큰 성능 향상을 이룬다는 것을 입증한다.