[논문 리뷰] Modeling the dynamics of domain specific terminology in diachronic corpora

Gerhard Heyer, Cathleen Kantner외 3명|arXiv (Cornell University)|2017. 07. 11.

Natural Language Processing Techniques참고 문헌 2인용 수 5

한 줄 요약

이 논문은 시계적 어휘자료에서 도메인 특화 용어의 의미 변화를 탐지하기 위해 새로운 측정 기준인 '맥락 변동성(context volatility)'을 제안한다. 잠재적 의미 공간을 활용해 시간에 따른 맥락적 변동성을 분석함으로써, 강한 논의나 의미 전환의 시기를 식별하는 방법을 제시하며, 정치학 분야의 사례 연구를 통해 핵심 용어 추출 및 동적 용어 행동 탐지 기능을 입증한다.

ABSTRACT

In terminology work, natural language processing, and digital humanities, several studies address the analysis of variations in context and meaning of terms in order to detect semantic change and the evolution of terms. We distinguish three different approaches to describe contextual variations: methods based on the analysis of patterns and linguistic clues, methods exploring the latent semantic space of single words, and methods for the analysis of topic membership. The paper presents the notion of context volatility as a new measure for detecting semantic change and applies it to key term extraction in a political science case study. The measure quantifies the dynamics of a term's contextual variation within a diachronic corpus to identify periods of time that are characterised by intense controversial debates or substantial semantic transformations.

연구 동기 및 목표

• 역사적 텍스트 어휘자료에서 시간에 따라 도메인 특화 용어의 의미 변화를 탐지하는 데 도전하는 문제를 해결하기 위해.
• 시계적 데이터에서 다양한 맥락에서 용어 사용의 역동성을 캡처하는 정량적 측정 기준을 개발하기 위해.
• 높은 의미 불안정성 기간을 식별함으로써 정치학 텍스트에서의 핵심 용어 추출을 향상시키기 위해.
• 맥락적 변동성 분석을 시간적 역동성과 통합하여 용어 진화의 보다 정확한 추적을 가능하게 하기 위해.
• 패턴 기반 및 주제 기반 접근법을 보완하는 방법을 제공하기 위해.

제안 방법

• 용어의 분포가 잠재적 의미 공간을 통해 시간에 따라 얼마나 변화하는지 측정하는 맥락 변동성 측정 기준을 제안한다.
• 단어 임베딩 모델을 적용하여 용어를 연속적인 벡터 공간에 표현함으로써 시간 간격에 걸친 맥락적 변동성을 포착한다.
• 시간 간격에 걸친 용어 벡터의 분산을 계산하여 변동성을 정량화하며, 높은 분산은 더 큰 맥락적 역동성을 의미한다.
• 각 용어의 맥락 변동성 점수를 계산하기 위해 시간에 따라 슬라이딩 윈도우 방법을 적용함으로써 변동성이 높은 기간을 탐지할 수 있다.
• 정치학 어휘자료에서 알려진 역사적 사건과 논의를 비교함으로써 방법의 타당성을 검증한다.
• 측정 기준을 핵심 용어 추출과 결합하여 의미 전환 또는 논란이 있는 용어를 식별한다.

실험 결과

연구 질문

• RQ1 시계적 어휘자료에서 도메인 특화 용어의 역동성은 시간에 따라 어떻게 정량적으로 측정할 수 있는가?
• RQ2 맥락 변동성은 의미 변화 또는 공적 논의 기간과 어떤 방식으로 관련이 있는가?
• RQ3 맥락 변동성은 정치적 텍스트에서 의미 진화를 겪는 핵심 용어 탐지에 어떻게 기여할 수 있는가?
• RQ4 맥락 변동성은 언어 패턴 기반 또는 주제 모델링 기반 전통적 방법과 비교해 어떻게 다른가?
• RQ5 시간 간격에 걸친 맥락적 변동성을 측정할 때 용어 사용에 나타나는 시간적 패턴은 무엇인가?

주요 결과

• 맥락 변동성은 정치적 논란이나 제도적 변화 시기와 같은 높은 의미적 역동성 기간을 효과적으로 식별한다.
• 높은 맥락 변동성 점수를 가진 용어들은 정치 어휘자료에서 강한 공적 또는 제도적 논의 기간과 더 강하게 일치한다.
• 정적 용어 빈도나 주제 모델링만으로는 쉽게 포착되지 않는 용어의 의미 변화를 이 방법은 성공적으로 탐지한다.
• 맥락 변동성은 시간에 따라 용어 의미의 동적 변화를 포착하는 데 기존 기준보다 뛰어난 성능을 보인다.
• 맥락적 불안정성에 따라 용어를 걸러내는 방식으로 더 세밀한 핵심 용어 추출이 가능해진다.
• 실증 결과는 맥락 변동성이 알려진 역사적 사건과 상관이 있음을 보여주며, 이는 그 해석 가능성과 민감성을 입증한다.