[논문 리뷰] Better Document-level Sentiment Analysis from RST Discourse Parsing

Parminder Bhatia, Yangfeng Ji외 1명|arXiv (Cornell University)|2015. 09. 04.

Sentiment Analysis and Opinion Mining참고 문헌 43인용 수 19

한 줄 요약

이 논문은 문단 수준의 감성 분석을 향상시키기 위해 논리적 구조 이론(Rhetorical Structure Theory, RST)을 활용한 문맥 분석 기법을 제안한다. 이는 문맥적 구조를 이용해 감성 기여도를 재가중하거나 문맥 트리의 상하위 구조를 통해 감성 점수를 재귀적으로 전파함으로써 이루어진다. 간단한 재가중 방법과 RST 트리 기반 순환 신경망(RNN) 모두 기존의 어휘 기반 및 bag-of-words 분류기보다 유의미하게 뛰어난 성능을 보이며, 특히 후자는 기준 데이터셋에서 최고 성능을 기록한다.

ABSTRACT

Discourse structure is the hidden link between surface features and document-level properties, such as sentiment polarity. We show that the discourse analyses produced by Rhetorical Structure Theory (RST) parsers can improve document-level sentiment analysis, via composition of local information up the discourse tree. First, we show that reweighting discourse units according to their position in a dependency representation of the rhetorical structure can yield substantial improvements on lexicon-based sentiment analysis. Next, we present a recursive neural network over the RST structure, which offers significant improvements over classification-based methods.

연구 동기 및 목표

• RST 문맥 구조가 기존의 bag-of-words나 어휘 기반 방법을 초월해 문단 수준의 감성 분석을 향상시킬 수 있는지 조사한다.
• 최근에 크게 향상된 정확도를 보이는 현대적이고 정확한 RST 파서가 감성 분류 작업에 대해 얼마나 효과적인지 평가한다.
• 두 가지 새로운 아키텍처인 문맥 인식 재가중 및 RST 트리 기반 순환 신경망을 설계하고 테스트한다.
• 감성 어휘 수만으로는 오해의 소지가 있는 다문장 텍스트에서 문맥적 구조가 감성 모호성을 해결할 수 있음을 보여준다.
• 기존 감성 분석 파이프라인에 쉽게 통합할 수 있는 실용적이고 즉각 적용 가능한 접근법을 제공한다.

제안 방법

• RST 트리의 종속성 유사 표현에서의 위치에 따라 문맥 단위를 재가중하며, 사전 정의된 함수 또는 소규모 레이블 데이터로부터 학습된 가중치를 사용한다.
• 자식 단위 표현을 학습된 가중치 행렬을 통해 조합하는 방식으로, RST 파싱 트리의 상하위 구조를 따라 감성 점수를 전파하는 순환 신경망(RNN)을 구축한다.
• DPLP RST 파서(Ji와 Eisenstein, 2014)를 사용하여, 이는 문맥 관계 식별에서 최고 수준의 F-측정치를 기록한다.
• RST 기반 방법을 어휘 기반 감성 분석 및 감독 학습 기반 분류 모델에 모두 적용하여, 기존 시스템과의 통합을 가능하게 한다.
• 감성 점수를 목표로 하여 RST 트리의 구조를 거쳐 역전파(backpropagation)를 통해 순환 모델을 종합적으로 학습한다.
• 두 방법 모두 Pang과 Lee(2004) 데이터셋에서 평가하며, 기준 어휘 기반 및 bag-of-words 분류기와의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 RST 파싱에서 유도된 문맥 구조는 표면적 단어 수만으로는 설명되지 않는 문단 수준의 감성 분석을 향상시킬 수 있는가?
• RQ2 RST 트리 내에서 문맥 단위의 위치가 전체 감성 극성 결정에 있어 중요도와 관련이 있는가?
• RQ3 RST 파싱 트리 기반 순환 신경망이 국소 감성 점수를 조합하여 전반적인 문단 수준 예측을 효과적으로 도출할 수 있는가?
• RQ4 최근에 정확도가 높아진 현대적 RST 파서는 이전 시스템인 SPADE와 비교해 감성 분석 성능 향상에 얼마나 기여하는가?
• RQ5 문맥 인식 재가중 또는 순환 조합 기법을 어휘 기반 및 분류기 기반 감성 분석과 효과적으로 융합할 수 있는가?

주요 결과

• RST 트리의 깊이와 핵심성(nuclearity) 기반 재가중 방법은 어휘 기반 감성 분석을 크게 향상시켜 기준 방법보다 높은 정확도를 달성한다.
• RST 구조 기반 순환 신경망은 bag-of-words 분류기와 어휘 기반 시스템을 모두 능가하며, 조합 모델링의 강력함을 입증한다.
• Pang과 Lee(2004) 데이터셋에서 제안된 순환 모델은 최고 성능을 기록하였으며, 이는 이전 어휘 기반 접근보다 정확도가 10퍼센트 이상 높다.
• 특히 감성 정보가 맥락적으로 가려진 경우, 예를 들어 ‘그건 놀라웠을 수 있었지만…’과 같은 양보 구조에서, 최종 부정 문장이 전체 극성에 지배적인 영향을 미치는 경우에 성능 향상이 두드러진다.
• 현대적 RST 파서(DPLP 등)는 이전 시스템(SPADE 등)과 달리 감성 분석과 같은 후행 NLP 작업에 충분한 정확도를 제공함을 확인하였다.
• 결과적으로 문맥적 구조는 표면적 특징과 문단 수준의 감성 간에 빠진 핵심 연결고리임을 시사하며, 감성 분석 파이프라인에 통합되어야 한다.