[논문 리뷰] Disentangling Aspect and Opinion Words in Target-based Sentiment Analysis using Lifelong Learning

Shuai Wang, Mianwei Zhou외 3명|arXiv (Cornell University)|2018. 02. 16.

Sentiment Analysis and Opinion Mining참고 문헌 20인용 수 7

한 줄 요약

이 논문은 수명 주기 PU 학습(LPU) 프레임워크를 제안하여 목표 기반 감성 분석에서 목표 관련 단어와 특성어, 의견어를 분리한다. 이는 두 단계적 접근 방식을 사용한다: 먼저 의미 유사도를 통해 목표 관련 단어를 군집화하고, 이후 수명 주기 지식 축적을 통한 반복적 PU 학습을 적용하여 잘못된 양성 예측의 전파를 줄인다. 이 방법은 수동 레이블링이 필요 없이도 세분화된 감성 분석에서 뛰어난 성능을 달성한다.

ABSTRACT

Given a target name, which can be a product aspect or entity, identifying its aspect words and opinion words in a given corpus is a fine-grained task in target-based sentiment analysis (TSA). This task is challenging, especially when we have no labeled data and we want to perform it for any given domain. To address it, we propose a general two-stage approach. Stage one extracts/groups the target-related words (call t-words) for a given target. This is relatively easy as we can apply an existing semantics-based learning technique. Stage two separates the aspect and opinion words from the grouped t-words, which is challenging because we often do not have enough word-level aspect and opinion labels. In this work, we formulate this problem in a PU learning setting and incorporate the idea of lifelong learning to solve it. Experimental results show the effectiveness of our approach.

연구 동기 및 목표

• 수동 레이블링이 불가능한 저자원 또는 제로샷 도메인에서 세분화된 목표 기반 감성 분석(FTSA)의 과제를 해결하기 위해.
• 단일 목표 이름만 제공되고 단어 수준의 레이블이 존재하지 않을 때, 목표 관련 특성어를 의견어와 분리하기 위해.
• 반복적 정규화를 통해 양성 예측의 오류 전파 문제를 해결하기 위해, 수명 주기 학습 원리를 통합하여 양성 예측 선택을 점진적으로 개선하기 위해.
• 다양한 도메인(예: 전자기기, 뷰티, 오디오 기기)에 일반적으로 적용 가능한 일반화된 비지도 또는 약한 지도 학습 방법을 개발하기 위해.

제안 방법

• 이 방법은 두 단계 파이프라인을 사용한다: 첫째, 분포적 의미 모델(예: 워드 임베딩 또는 토픽 모델)을 사용하여 목표 관련 단어(t-words)를 추출한다.
• 두 번째 단계에서, t-특성어와 t-의견어의 분리 문제를 PU 학습 문제로 포지셔닝하며, 일반적인 의견어를 초기 양성 예외로 간주한다.
• 제안된 LPU 모델은 반복적 학습을 통해 지식을 축적함으로써 수명 주기 학습을 통합한다. 잘못된 양성 예측 전파를 방지하기 위해 제약 조건을 적용한다.
• 알고리즘은 높은 신뢰도 예측을 선택하여 양성 집합을 반복적으로 업데이트하며, 신뢰도 임계값과 제약 조건 메커니즘을 적용하여 오류 확산을 방지한다.
• 실제 리뷰 코퍼스를 사용하여 여러 도메인(예: 휴대폰, 뷰티)에서 평가되며, LDA와 워드 임베딩을 초기 t-어휘 추출기로 사용한다.
• 절단 실험은 LPU를 표준 PU 학습, 단순 반복 PU, 비반복 모델과 비교하여, 수명 주기 학습 통합의 이점을 입증한다.

실험 결과

연구 질문

• RQ1 레이블이 없는 상황에서 PU 학습 접근 방식이 목표 관련 단어에서 특성어와 의견어를 효과적으로 분리할 수 있는가?
• RQ2 이 분리 작업에서 잘못된 양성 예측으로 인한 오류 전파가 PU 학습 성능에 어떤 영향을 미치는가?
• RQ3 수명 주기 학습 원리를 통합함으로써 PU 학습의 강건성과 정확도는 어느 정도 향상되는가?
• RQ4 이러한 방법은 소비자 전자기기 및 뷰티 제품과 같은 다양한 도메인에 얼마나 일반화될 수 있는가?

주요 결과

• LPU는 표준 PU 학습 및 반복적 PU 기반 모델보다 의견어를 정확하게 식별하는 데 뛰어난 성능을 보이며, 특히 'muddiness'와 'sibilance'와 같은 형용사 외의 의견어를 탐지하는 데 유리하다.
• 제약 조건 없이 새로운 예측과 초기 어휘를 조합한 모델(c)는 새로운 양성 예외를 학습하지 못해 적응성 부족과 지식 축적 한계를 보인다.
• 모든 새로운 예측을 단순히 재사용하는 모델(b)는 오류 전파 문제로 인해 'sound'와 'volume'과 같은 특성어를 의견어로 잘못 분류한다.
• LPU는 반복 과정에서 안정적이고 높은 성능을 유지하며, 그림 3에서 150회 반복 시 평균 정확도의 지속적인 향상을 보여준다.
• 이 방법은 ADJ 및 NLL 모델이 놓친 비형용사 의견어(예: 'muddiness', 'thumping')를 성공적으로 식별하여 더 넓은 커버리지 확보를 보였다.
• 주제 모델링(LDA)에 적용했을 때도 LPU는 뛰어난 성능을 유지하여, 다양한 t-어휘 추출 기법과의 호환성과 일반화 능력을 입증했다.