[논문 리뷰] Where New Words Are Born: Distributional Semantic Analysis of Neologisms and Their Semantic Neighborhoods

Maria Ryskina, Ella Rabinovich외 3명|arXiv (Cornell University)|2020. 01. 06.

Language and cultural evolution참고 문헌 31인용 수 13

한 줄 요약

이 논문은 대규모 역사적 영어 어휘자료를 바탕으로 분포적 의미론을 사용하여 신어 생성의 언어적 요인을 조사한다. 연구는 신어 형성의 두 가지 예측 요인으로 정신적 희소성과 의미 이웃의 빈도 증가를 제안하며, 특히 후자의 경우 더 강한 경험적 근거를 제시한다. 이는 문화적, 기술적 변화와 같은 언어 외적 요인이 어휘 혁신을 형성하는 데 기여한다는 점을 강조한다.

ABSTRACT

We perform statistical analysis of the phenomenon of neology, the process by which new words emerge in a language, using large diachronic corpora of English. We investigate the importance of two factors, semantic sparsity and frequency growth rates of semantic neighbors, formalized in the distributional semantics paradigm. We show that both factors are predictive of word emergence although we find more support for the latter hypothesis. Besides presenting a new linguistic application of distributional semantics, this study tackles the linguistic question of the role of language-internal factors (in our case, sparsity) in language change motivated by language-external factors (reflected in frequency growth).

연구 동기 및 목표

• 단일 신어 사례 연구를 넘어서, 신어 형성의 체계적 요인을 조사하기 위해.
• 언어 내 요인(의미 희소성)과 언어 외 요인(빈도 증가)이 의미 공간 내에서 새로운 어휘가 어디에 형성되는지에 공동으로 영향을 미치는지 검토하기 위해.
• 단어 임베딩과 역사적 어휘자료를 사용하여 공급 기반(희소성)과 수요 기반(빈도 증가)이라는 두 가설을 정량화하고 검증하기 위해.
• 의미 변화 분석을 넘어서 분포적 의미론을 새로운 어휘 항목의 체계적 형성 분석에 적용함으로써, 언어 변화에 대한 새로운 계산적 통찰을 제공하기 위해.

제안 방법

• 연구는 대규모 역사적 어휘자료를 기반으로 훈련된 단어 임베딩을 사용하여 시간 주기별 의미 공간을 표현한다.
• 의미 희소성은 잠재적 신어의 의미 군집 주변의 기존 어휘 밀도의 역수로 측정된다.
• 의미 이웃의 빈도 증가율은 어휘자료 내 시간 간격을 따라 어휘의 빈도 변화를 추적함으로써 계산된다.
• 언어학적 및 분포적 기준을 사용하여 어휘자료에서 자동으로 신어를 식별하고, 이를 검증용 데이터셋으로 구성한다.
• 메트릭 분포를 비교하기 위해 비신어 집합(제어 집합)을 구성한다.
• 신어 집합과 제어 집합 간의 희소성 및 빈도 증가 메트릭을 통계적으로 비교함으로써 가설을 검증한다.

실험 결과

연구 질문

• RQ1 어휘 임베딩 이웃 내 의미 희소성이 새로운 어휘 형성에 얼마나 예측 가능한가?
• RQ2 의미 이웃의 빈도 증가율이 신어 형성에 얼마나 강하게 예측되는가?
• RQ3 빈도 증가로 표현되는 언어 외적 요인이 의미 희소성과 같은 순수 언어 내 구조적 요인보다 신어 형성에 더 중요한 역할을 하는가?
• RQ4 분포적 의미론을 의미 변화 외에도 새로운 어휘 항목의 체계적 형성 모델링에 사용할 수 있는가?

주요 결과

• 의미 이웃의 빈도 증가율은 의미 희소성보다 신어 형성에 훨씬 더 강력한 예측 요인이다.
• 의미 희소성은 양의 상관관계를 보이지만 통계적으로는 덜 유의미한 것으로 나타나, 공급 기반 가설은 제한적으로 지지된다.
• 신어들은 일관되게 의미적으로 일관된 이웃 영역에 투사되며, 가장 가까운 이웃들은 교체 관계(예: email:letter)나 공존 관계(예: hip-hop:jazz)와 같은 개념적 관계를 반영한다.
• 연구는 언어 외적 요인—문화적, 기술적 변화를 반영한 빈도 추세—이 순수한 내부 구조적 요인보다 신어 형성에 더 예측 가능하다는 경험적 증거를 제공한다.
• 모델은 생소어 대체, 약어화, 복합어의 철자 변경(예: lifestyle:life-style)과 같은 패턴을 성공적으로 식별하여 의미 진화에 민감함을 보여준다.
• 이 연구는 단어 임베딩를 사용하여 의미 희소성을 정량화한 최초의 사례로, 분포적 의미론에서 어휘 혁신을 연구하는 데 새로운 길을 열었다.