[논문 리뷰] Classifying Idiomatic and Literal Expressions Using Topic Models and Intensity of Emotions

Jing Peng, Anna Feldman외 1명|arXiv (Cornell University)|2018. 02. 27.

Natural Language Processing Techniques참고 문헌 11인용 수 9

한 줄 요약

이 논문은 주제 모델링(LDA)과 정서 강도 특징을 사용하여 관용어 및 직역어 표현을 분류하는 방법을 제안한다. 관용어를 국소 주제 맥락 내의 의미적 이질요소로 간주하고, 정서어휘에서 유도된 각성 수준을 통합함으로써, 기초적인 bag-of-words 및 이전 방법을 초월하는 분류 정확도를 달성하며, 소규모이지만 대표적인 데이터셋에서 뛰어난 성능을 보인다.

ABSTRACT

We describe an algorithm for automatic classification of idiomatic and literal expressions. Our starting point is that words in a given text segment, such as a paragraph, that are highranking representatives of a common topic of discussion are less likely to be a part of an idiomatic expression. Our additional hypothesis is that contexts in which idioms occur, typically, are more affective and therefore, we incorporate a simple analysis of the intensity of the emotions expressed by the contexts. We investigate the bag of words topic representation of one to three paragraphs containing an expression that should be classified as idiomatic or literal (a target phrase). We extract topics from paragraphs containing idioms and from paragraphs containing literals using an unsupervised clustering method, Latent Dirichlet Allocation (LDA) (Blei et al., 2003). Since idiomatic expressions exhibit the property of non-compositionality, we assume that they usually present different semantics than the words used in the local topic. We treat idioms as semantic outliers, and the identification of a semantic shift as outlier detection. Thus, this topic representation allows us to differentiate idioms from literals using local semantic contexts. Our results are encouraging.

연구 동기 및 목표

• 맥락 내에서 관용어와 직역어 표현을 자동으로 구분하는 방법을 개발하는 것.
• 비합성적 의미적 이질요소로서의 관용어가 주변 텍스트의 주제 모델링을 통해 탐지될 수 있는지 조사하는 것.
• 정서 강도(특히 각성 수준)를 통합함으로써 분류 성능에 미치는 영향을 평가하는 것.
• 단지 어휘적 또는 문법적 패tern에 의존하는 기존 접근법을 국소 의미 맥락을 활용함으로써 개선하는 것.
• 동일한 표현이 맥락에 따라 직역적 또는 관용적으로 사용될 수 있는 모호한 관용어 사용 문제를 다루는 것.

제안 방법

• 해당 방법은 목표 어휘를 포함한 1~3단락의 텍스트에서 주제 표현을 추출하기 위해 잠재적 딜리클레 분할(LDA)을 사용한다.
• 주제-단어 확률 기반으로 주제에서의 주로 지배적인 국소 주제로부터의 이탈 정도를 측정함으로써, 관용어를 의미적 이질요소로 간주한다.
• 감정 강도는 주변 맥락에서 감정 분석을 통해 추출된 단순한 각성 특징을 통해 캡처된다.
• 주제 표현과 각성 특징을 결합하여 어휘가 관용어인지 직역어인지 분류한다.
• 결합된 주제 및 정서 특징을 기반으로 분류기(감독 모델로 암시됨)를 훈련시켜 관용어 사용과 직역어 사용을 구분한다.
• 해당 방법은 어휘가 관용어 또는 직역어로 레이블링된 데이터셋에서 평가되며, 기초 bag-of-words 및 이전 방법과의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 국소 텍스트 맥락의 주제 모델링을 통해 의미적 이질요소를 탐지함으로써 관용어와 직역어 표현을 효과적으로 구분할 수 있는가?
• RQ2 특히 각성 수준을 포함한 정서 강도를 통합하면 관용어 표현의 분류 성능이 향상되는가?
• RQ3 맥락 길이(1단락 대비 3단락)는 주제 기반 관용어 탐지 성능에 어떤 영향을 미치는가?
• RQ4 관용어 대비 직역어 사용 분류에서 제안된 방법이 기초 모델 및 이전 접근법을 얼마나 뛰어나게 성능을 내는가?
• RQ5 거짓 양성 및 거짓 음성의 주요 원인은 무엇이며, 정서 통합은 이를 어떻게 해결하는가?

주요 결과

• 제안된 방법은 관용어 및 직역어 표현 분류에서 기초 bag-of-words 모델을 크게 능가한다.
• 특히 각성 수준을 포함한 정서 강도를 통합하면 분류 성능이 향상되며, 이는 거짓 양성 및 음성의 감소에 기여한다.
• 3단락 맥락을 사용할 경우 1단락 맥락보다 더 좋은 성능을 보이며, 더 긴 맥락이 더 안정적인 주제 모델링을 제공하기 때문이다.
• LDA 공간 내에서 주로 지배적인 국소 주제로부터의 이탈을 탐지함으로써, 모델은 관용어를 의미적 이질요소로 성공적으로 식별한다.
• Feldman과 Peng(2013)의 방법(평균 정확도 80%)을 초월하며, 동일한 데이터셋에서 뛰어난 성능을 보여주어 열등한 성능을 가진 것으로 보인다.
• 정성적 분석을 통해 정서 특징이 'whistle-blowing'과 같이 모호한 사례를 올바르게 분류하는 데 도움이 되었음을 확인하였다. 이는 정서적 맥락을 포착하는 데 기여하였다.