[논문 리뷰] Semi-Supervised Affective Meaning Lexicon Expansion Using Semantic and Distributed Word Representations

Areej Alhothali, Jesse Hoey|arXiv (Cornell University)|2017. 03. 28.

Sentiment Analysis and Opinion Mining참고 문헌 24인용 수 7

한 줄 요약

이 논문은 유사도 그래프 내에서 의미적(WordNet, PPDB) 및 분포적 단어 표현(GloVe, 스킵그램)을 융합한 레이블 전파 프레임워크를 사용하여 삼차원 정서 의미 어휘(평가, 강도, 활동성)를 준지도 학습 방식으로 확장한다. 의미적 및 신경망 기반 단어 표현을 융합했을 때 높은 순서 상관관계(τ=0.51)와 낮은 평균 절대 오차(<1.1%)를 기록하며, 분포적 모델 및 의미적 모델 전용 모델을 모두 능가하고 지도 학습 기반 모델에 근접한 성능을 보였다.

ABSTRACT

In this paper, we propose an extension to graph-based sentiment lexicon induction methods by incorporating distributed and semantic word representations in building the similarity graph to expand a three-dimensional sentiment lexicon. We also implemented and evaluated the label propagation using four different word representations and similarity metrics. Our comprehensive evaluation of the four approaches was performed on a single data set, demonstrating that all four methods can generate a significant number of new sentiment assignments with high accuracy. The highest correlations (tau=0.51) and the lowest error (mean absolute error &lt; 1.1%), obtained by combining both the semantic and the distributional features, outperformed the distributional-based and semantic-based label-propagation models and approached a supervised algorithm.

연구 동기 및 목표

• 감정의 다차원적 성격을 반영하지 못하는 일차원 감성 어휘의 한계를 해결하기 위해.
• 삼차원 감성 어휘(EPA: 평가, 강도, 활동성)의 수작업 레이블링에 따른 높은 비용과 노동 강도를 줄이기 위해.
• 준지도 학습 기반 감성 어휘 확장에서 의미적 표현과 분포적 표현을 융합하는 효과성을 탐색하기 위해.
• 현대적이고 문화적으로 다양성이 있는 용어를 포함하는 대규모 자동 확장 3차원 감성 어휘를 구축하기 위해.
• 실제 데이터셋에서 비지도 및 지도 학습 기반 모델과의 성능을 평가하기 위해.

제안 방법

• WordNet(의미적), PPDB(동의어 기반), GloVe, 스킵그램(신경망 기반 단어 표현)에서 유도된 단어 표현을 사용하여 유사도 그래프를 구축한다.
• 여러 지표를 사용하여 단어 간 쌍별 유사도 점수를 계산하며, 단어 벡터의 코사인 유사도 및 어휘 자료에서의 동의어/동의어 관계를 포함한다.
• 그래프의 연결성과 유사도에 기반해 시드 단어에서부터 레이블을 전파하여 미레이블된 단어에 감성 점수를 전파한다.
• 유사도 행렬을 향상시켜 전파 정확도를 향상시키기 위해 의미적 표현과 분포적 표현을 모두 활용하는 하이브리드 접근법을 사용한다.
• 고정된 사전 정의된 시드(예: '좋음', '나쁨')에 의존하지 않고, 코퍼스나 사전에서 시드 단어를 샘플링한다.
• Warriner et al. (2013) 및 General Inquirer (Stone et al., 1968) 어휘를 대상으로 모델을 훈련하고 평가하며, 켄달의 타우와 평균 절대 오차를 평가 지표로 사용한다.

실험 결과

연구 질문

• RQ1 의미적 표현과 분포적 표현을 융합하는 것이 단일 표현 방식을 사용할 때보다 삼차원 감성 어휘 확장 정확도를 향상시키는가?
• RQ2 다양한 단어 표현 방식(GloVe, 스킵그램, WordNet, PPDB)을 사용할 때 레이블 전파의 성능가 어떻게 달라지는가?
• RQ3 제안된 준지도 학습 방법이 감성 점수를 유도하는 데 있어 지도 학습 기반 모델과 유사한 성능을 달성하는가?
• RQ4 유도된 EPA 점수는 각 차원(평가, 강도, 활동성)에서 인간 레이블링 값과 얼마나 상관이 있는가?
• RQ5 기존 어휘에 포함되지 않은 현대적 또는 문화적으로 민감한 용어의 정서적 의미를 얼마나 잘 포착할 수 있는가?

주요 결과

• 의미적 표현과 신경망 기반 단어 표현을 융합한 모델(NWELP)이 인간 레이블링된 EPA 점수와 가장 높은 켄달의 타우 상관관계(τ=0.51)를 기록하며, 다른 방법들보다 유의미하게 뛰어난 성능을 보였다.
• 최고 성능을 보인 모델(NWELP)의 평균 절대 오차(MAE)는 1.1% 미만이었으며, 예측된 감성 값의 높은 정밀도를 시사한다.
• 평가(E) 차원에서 가장 높은 상관관계(τ≈0.51)를 보였고, 강도(P) 차원에서 가장 낮은 상관관계를 보여, 지배성 모델링의 어려움이 더 크다는 것을 시사한다.
• NWELP 모델은 분포적 모델 전용(GloVe, 스킵그램) 및 의미적 모델 전용(WordNet, PPDB) 레이블 전파 모델을 모두 상회하며 상관관계 및 오차 지표에서 뛰어난 성능을 보였다.
• 대규모 레이블링된 학습 데이터가 필요 없이도, 단어 표현과 감성 어휘를 기반으로 훈련된 지도 학습 알고리즘(SVR)과 유사한 성능을 달성하였다.
• 이 방법을 통해 약 300만 단어에 이르는 삼차원 감성 어휘를 성공적으로 확장하여 현대적이고 문화적으로 민감한 용어의 보다 넓은 커버리지가 가능해졌다.