[논문 리뷰] Recursive Neural Conditional Random Fields for Aspect-based Sentiment Analysis

Wenya Wang, Sinno Jialin Pan외 2명|arXiv (Cornell University)|2016. 03. 22.

Sentiment Analysis and Opinion Mining참고 문헌 39인용 수 57

한 줄 요약

이 논문은 의존 구조 트리 구조를 활용해 고차원의 상호작용 표현을 학습하고, 개별적으로 개선된 쌍방향 정보 전파를 가능하게 하여 텍스트에서 명시적 측면(term)과 의견(term)을 동시에 추출하는 데 목적이 있는 Recursive Neural Conditional Random Fields (RNCRF)를 제안한다. RNCRF는 SemEval 2014 Task 4 데이터셋에서 규칙 기반 및 특징 엔지니어링 기반의 기존 베이스라인, 포함해 대회 수상 시스템까지도 능가하는 최신 기술 수준(SOTA)의 성능을 달성한다.

ABSTRACT

In aspect-based sentiment analysis, extracting aspect terms along with the opinions being expressed from user-generated content is one of the most important subtasks. Previous studies have shown that exploiting connections between aspect and opinion terms is promising for this task. In this paper, we propose a novel joint model that integrates recursive neural networks and conditional random fields into a unified framework for explicit aspect and opinion terms co-extraction. The proposed model learns high-level discriminative features and double propagate information between aspect and opinion terms, simultaneously. Moreover, it is flexible to incorporate hand-crafted features into the proposed model to further boost its information extraction performance. Experimental results on the SemEval Challenge 2014 dataset show the superiority of our proposed model over several baseline methods as well as the winning systems of the challenge.

연구 동기 및 목표

• 의존 구조 분석 기반의 고차원 상호작용을 모델링할 수 있도록 하여, 품사 태깅 제약 조건과 선형 특징 조합에 크게 의존하는 기존 규칙 기반 및 수작업 특징 기반 방법의 한계를 해결하고자 한다.
• 구조적 의존성 파싱을 통해 측면어와 의견어 간의 고차원 상호작용을 포괄적으로 포착하는 통합 모델을 개발하고자 한다.
• 측면어와 의견어 추출을 동시에 최적화하는 분류적 표현을 엔드 투 엔드로 학습하고자 한다.
• 수작업 특징 엔지니어링에 대한 의존도를 줄이고, 딥 리présentation 학습을 통해 성능 향상을 도모하고자 한다.

제안 방법

• 모델은 각 단어에 대해 문맥 인식 능력을 갖춘 고차원 표현을 학습하기 위해 의존성 트리 기반의 재귀 신경망(RNN)을 사용하며, 이는 측면어와 의견어 간의 문법적 및 의미적 관계를 포착한다.
• RNN의 출력은 순서 예측 작업에서 장거리 의존성을 유지하기 위해 레이블 시퀀스를 모델링하는 조건부 랜덤 필드(CRF) 레이어에 입력된다.
• 모델 전체는 역전파를 통한 최대우도 추정법을 사용하여 엔드 투 엔드로 학습되며, CRF 레이블에서 RNN 표현으로의 이중 정보 흐름을 가능하게 한다.
• 성능 향상을 위해 수작업 특징(예: 품사 태깅, 명사어목록, 감성 사전 등)의 통합을 지원한다.
• 재귀적 구조는 선형 조합을 넘어서는 복잡한 측면-의견 관계를 포착할 수 있도록 비선형적 특징 변환을 가능하게 한다.
• 측면어와 의견어 레이블링을 동시에 학습함으로써 상호 감독을 가능하게 하고 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 재귀 신경망과 CRF를 통합한 통합 모델이 기존의 규칙 기반 및 특징 엔지니어링 기반 방법보다 측면어와 의견어의 동시 추출에서 더 우수한 성능을 내는가?
• RQ2 재귀적 표현 학습이 측면어와 의견어 간의 문법적 및 의미적 의존성을 얼마나 효과적으로 포착하는가?
• RQ3 감성 사전 및 명사어 목록과 같은 수작업 특징이 통합 모델의 성능 향상에 어느 정도 기여하는가?
• RQ4 역전파를 통한 엔드 투 엔드 학습과 통합 최적화가 별도 또는 선형 특징 기반 접근법보다 더 우수한 일반화 능력을 제공하는가?
• RQ5 단어 임베딩 차원 수와 입력 표현의 변화에 대해 모델의 성능은 얼마나 강인한가?

주요 결과

• 레스토랑 도메인에서 RNCRF는 측면어 추출에 84.05%의 F1 점수, 의견어 추출에 80.93%의 F1 점수를 기록하여, 최고의 베이스라인(CRF + word2vec)보다 각각 1.48%, 2.10% 높은 성능을 보였다.
• 노트북 도메인에서는 측면어 추출에 76.83%의 F1 점수, 의견어 추출에 76.76%의 F1 점수를 기록하여, SemEval 2014 대회 수상 시스템보다 측면어 추출에서 3.26% 높은 성능을 기록했다.
• 감성 사전 특징을 추가함으로써 기존 RNCRF 모델 대비 의견어 F1 점수가 4.10% 향상되었으며, 이는 사전 기반 특징이 강력한 신호를 제공한다는 것을 시사한다.
• 단어 임베딩 차원 수에 대한 모델의 강인성은 높았으며, 25에서 400까지의 다양한 차원에서 안정적인 성능을 보였고, 레스토랑 도메인에서는 325 차원에서 최고 성능을 기록했다.
• 이름 목록 특징 통합이 측면어 추출에서 가장 높은 성능 향상을 이끌어내어, 측면어 식별에 강력한 분류 능력을 지닌 것으로 나타났다.
• 표준 LSTM 모델 대비 레스토랑 도메인에서 측면어 추출 성능이 2.90% 향상되었고, 라이프탑 도메인에서는 4.10% 향상되어, RNCRF가 측면-의견 관계 모델링에서 뛰어난 성능을 보임을 입증했다.