[논문 리뷰] Freshman or Fresher? Quantifying the Geographic Variation of Internet Language

Vivek Kulkarni, Bryan Perozzi외 1명|arXiv (Cornell University)|2015. 10. 22.

Language and cultural evolution참고 문헌 39인용 수 11

한 줄 요약

이 논문은 지역별로 특화된 단어 임베딩과 근본 모델(null model)을 사용하여 온라인 언어에서 지리적으로 의미적, 문법적, 어휘적 변동을 탐지하고 정량화하는 새로운 통계적 방법인 geodist를 소개한다. 이는 글로벌화의 영향으로 영국식 영어와 미국식 영어가 시간이 지남에 따라 의미적으로 점점 더 유사해지고 있음을 드러낸다.

ABSTRACT

We present a new computational technique to detect and analyze statistically significant geographic variation in language. Our meta-analysis approach captures statistical properties of word usage across geographical regions and uses statistical methods to identify significant changes specific to regions. While previous approaches have primarily focused on lexical variation between regions, our method identifies words that demonstrate semantic and syntactic variation as well. We extend recently developed techniques for neural language models to learn word representations which capture differing semantics across geographical regions. In order to quantify this variation and ensure robust detection of true regional differences, we formulate a null model to determine whether observed changes are statistically significant. Our method is the first such approach to explicitly account for random variation due to chance while detecting regional variation in word meaning. To validate our model, we study and analyze two different massive online data sets: millions of tweets from Twitter spanning not only four different countries but also fifty states, as well as millions of phrases contained in the Google Book Ngrams. Our analysis reveals interesting facets of language change at multiple scales of geographic resolution -- from neighboring states to distant continents. Finally, using our model, we propose a measure of semantic distance between languages. Our analysis of British and American English over a period of 100 years reveals that semantic variation between these dialects is shrinking.

연구 동기 및 목표

• 단지 어휘적 차이를 넘어서 통계적으로 유의미한 지역적 어휘 사용 변동을 탐지하고 정량화하는 것.
• 기존 방법의 격차를 메우기 위해 지역 간 의미적 및 문법적 변동을 포착하는 것.
• 근본 모델을 사용하여 실제 지역 언어적 이동과 무작위 변동을 구분하는 강력한 방법을 개발하는 것.
• 국가 및 미국 주 수준의 다중 해상도 데이터셋(트윗 및 Google Ngrams)을 대상으로 방법을 평가하는 것.
• 시간에 따라 변화하는 방언 간의 융합과 분리 현상을 분석하기 위해 새로운 비지도적 의미 거리 측정법을 제안하는 것.

제안 방법

• 지역별로 특화된 단어 임베딩을 학습하여 지역 간 의미적 차이를 포착하는 신경망 언어 모델을 확장하는 것.
• 관측된 지역 간 어휘 사용 차이가 유의미한지 또는 우연에 의한 것인지 평가하기 위해 통계적 근본 모델을 적용하는 것.
• 지역 간 어휘 사용의 통계적 특성을 집계하여 유의미한 이동을 탐지하기 위해 메타분석 접근법을 사용하는 것.
• 지리적 태그가 부여된 텍스트(예: 트윗)와 책의 n-그램을 사용해 대규모로 지역 변동을 모델링하는 단어 임베딩을 활용하는 것.
• 다른 지역에서의 단어 임베딩 유사도를 기반으로 한 새로운 방언 간 의미 거리 측정법을 도입하는 것.
• 미국 50개 주와 네 개의 영어 사용 국가를 포함한 다양한 데이터셋과 지리적 해상도에서 방법을 검증하는 것.

실험 결과

연구 질문

• RQ1 어떤 단어들이 어휘적 차이를 넘어서 의미적 또는 문법적 변동을 보이며 지역 간으로 유의미하게 다를 수 있는가?
• RQ2 대규모 온라인 텍스트에서 실제 지역 언어적 이동과 무작위 변동을 어떻게 구분할 수 있는가?
• RQ3 영국식 영어와 미국식 영어 방언이 시간이 지남에 따라 얼마나 의미적으로 융합하고 있는가?
• RQ4 지역적 어휘 사용의 변동은 소셜 미디어와 출판된 텍스트에서 어떻게 발생하고 확산되는가?
• RQ5 비지도적이고 데이터 기반 방식으로 방언 간의 의미 거리를 정량화할 수 있는가?

주요 결과

• 이 방법은 'test'나 'schedule'와 같은 단어에서 의미적 변동을 성공적으로 탐지했다. 예를 들어 'test'는 인도에서는 크리켓 경기를 의미하지만 다른 곳에선 시험을 뜻하며, 'schedule'은 영국에선 텍스트 첨부물을 의미하지만 미국에선 그렇지 않다.
• 동일한 방법을 사용하여 미국의 이웃 주들부터 먼 대륙까지 다양한 척도에서 어휘 사용의 지리적 변동을 탐지할 수 있다.
• 지난 100년간 영국식 영어와 미국식 영어 간의 의미 거리가 감소해 융합 경향이 커지고 있음을 확인했다.
• 근본 모델은 랜덤 샘플링으로 인한 오락실적인 지역적 차이를 걸러내어 탐지 정확도를 크게 향상시켰다.
• 이 방법은 소셜 미디어에서의 코드 혼합 및 지역별 특화된 어휘 사용을 탐지하여 다양한 언어적 현상에 대한 강건성을 입증했다.
• 제안된 의미 거리 측정법은 문화적 및 기술적 글로벌화가 특히 영어에서 방언 융합을 이끄는 주요 원인임을 드러냈다.