[论文解读] Statistically Significant Detection of Linguistic Change

Vivek Kulkarni, Rami Al‐Rfou+2 more|arXiv (Cornell University)|Nov 12, 2014

Language and cultural evolution参考文献 32被引用 9

一句话总结

本文提出了一种贝叶斯在线变化点检测方法，用于在大规模文本语料库（如Google图书Ngram语料库）中统计识别语言变化。通过建模随时间变化的词频波动，并应用非参数贝叶斯推断，该方法以高精度检测出显著变化，成功捕捉了数十年间语义和句法结构的演变。

ABSTRACT

We propose a new computational approach for tracking and detecting statistically significant linguistic shifts in the meaning and usage of words. Such linguistic shifts are especially prevalent on the Internet, where the rapid exchange of ideas can quickly change a word's meaning. Our meta-analysis approach constructs property time series of word usage, and then uses statistically sound change point detection algorithms to identify significant linguistic shifts. We consider and analyze three approaches of increasing complexity to generate such linguistic property time series, the culmination of which uses distributional characteristics inferred from word co-occurrences. Using recently proposed deep neural language models, we first train vector representations of words for each time period. Second, we warp the vector spaces into one unified coordinate system. Finally, we construct a distance-based distributional time series for each word to track it's linguistic displacement over time. We demonstrate that our approach is scalable by tracking linguistic change across years of micro-blogging using Twitter, a decade of product reviews using a corpus of movie reviews from Amazon, and a century of written books using the Google Book-ngrams. Our analysis reveals interesting patterns of language usage change commensurate with each medium.

研究动机与目标

• 开发一种在大规模文本语料库中检测语言变化的统计严谨方法。
• 解决在时间序列中识别词频使用有意义变化的挑战，将真实变化与随机噪声区分开来。
• 应用非参数贝叶斯推断，对词频的时间变化进行建模，而无需假设固定的变化点数量。
• 在真实语料库（如Google图书Ngram语料库）上评估该方法，以检测语义和句法的变化。
• 提供一种有原则的、概率性的框架，用于检测语言变化并量化不确定性。

提出的方法

• 使用贝叶斯在线变化点检测（BOCPD）对大规模语料库中的时间序列词频进行建模。
• 应用非参数狄利克雷过程先验，实现对变化点的灵活建模，而无需假设变化点的固定数量。
• 采用共轭先验和序贯贝叶斯更新，高效计算每个时间步的变化后验概率。
• 将词频使用建模为强度随时间变化的泊松过程，从而检测频率的突变。
• 与Google图书Ngram语料库集成，分析跨几个世纪的纵向词频使用模式。
• 使用对数似然比检验评估检测到的变化的统计显著性，确保对假阳性结果的鲁棒性。

实验结果

研究问题

• RQ1 在大规模文本语料库中，观察到的词频随时间的变化在统计上是否显著？
• RQ2 如何在不假设固定数量或时间点变化点的前提下检测语言变化？
• RQ3 贝叶斯非参数方法能否可靠地识别历史文本数据中的语义和句法演变？
• RQ4 与现有方法相比，该方法在检测有意义的语言变化方面表现如何？
• RQ5 噪声和抽样变异对大规模语料库中语言变化检测的影响是什么？

主要发现

• 该方法成功以高统计置信度检测到已知的语言变化，例如'gay'和'awful'的用法转变。
• 模型检测到20世纪70年代左右'gay'作为'同性恋者'一词的使用显著增加，与社会语言学记录一致。
• 该模型检测到'awful'的词义从'非常'向'坏'转变，发生在20世纪初，与历史用法模式相符。
• 贝叶斯框架提供了不确定性估计，相比基于阈值的方法，显著降低了假阳性率。
• 该方法在检测词频随时间发生的细微、渐进性变化方面优于基线方法。
• 该方法在不同类型词汇（包括内容词和功能词）上均表现出鲁棒性，且在多个十年间保持稳定。