[论文解读] That's sick dude!: Automatic identification of word sense change across different timescales

Sunny Mitra, Ritwik Mitra+4 more|arXiv (Cornell University)|May 17, 2014

Natural Language Processing Techniques参考文献 24被引用 6

一句话总结

本文提出一种无监督方法，通过时变分布同义词网络检测历史文本数据中名词的词义变化。通过在不同时间点聚类词义并进行比较，该方法识别出词义的诞生、分裂、合并与消亡，检测新词义的准确率达60.4%，在新词义、分裂或合并词义方面与WordNet的对齐率在44–46%之间。

ABSTRACT

In this paper, we propose an unsupervised method to identify noun sense changes based on rigorous analysis of time-varying text data available in the form of millions of digitized books. We construct distributional thesauri based networks from data at different time points and cluster each of them separately to obtain word-centric sense clusters corresponding to the different time points. Subsequently, we compare these sense clusters of two different time points to find if (i) there is birth of a new sense or (ii) if an older sense has got split into more than one sense or (iii) if a newer sense has been formed from the joining of older senses or (iv) if a particular sense has died. We conduct a thorough evaluation of the proposed methodology both manually as well as through comparison with WordNet. Manual evaluation indicates that the algorithm could correctly identify 60.4% birth cases from a set of 48 randomly picked samples and 57% split/join cases from a set of 21 randomly picked samples. Remarkably, in 44% cases the birth of a novel sense is attested by WordNet, while in 46% cases and 43% cases split and join are respectively confirmed by WordNet. Our approach can be applied for lexicography, as well as for applications like word sense disambiguation or semantic search.

研究动机与目标

• 开发一种无监督方法，用于检测大规模数字化文本语料库中的词义随时间的变化。
• 通过构建时间特定的分布同义词网络，建模词义随时间的演变过程。
• 识别四种类型的词义变化：新词义的诞生、旧词义的分裂、多个词义的合并以及词义的消亡。
• 通过人工评估和与WordNet及俚语词典的对比，对方法进行评估。
• 支持词典编纂工作，并提升词义消歧和语义搜索等自然语言处理应用的效果。

提出的方法

• 从八个不同时间窗口的数字化图书中构建随时间变化的共现网络。
• 利用词语共现模式，为每个时间窗口构建分布同义词网络。
• 对每个时间特定的网络应用图聚类，提取以词语为中心的词义聚类。
• 通过比较两个时间点的词义聚类，检测词义变化：词义诞生、分裂、合并或消亡。
• 使用WordNet和俚语词典作为外部验证源，检验候选词义变化。
• 对随机抽取的案例进行人工评估，以评估检测准确率。

实验结果

研究问题

• RQ1 无监督方法在多大程度上能准确检测历史文本语料库中新词义的出现？
• RQ2 所检测到的词义变化（如分裂、合并或消亡）在多大程度上与WordNet等既有的词汇资源一致？
• RQ3 该方法能否识别出在非正式语言来源（如俚语词典）中也存在的新词义？
• RQ4 该方法在仅使用分布模式的情况下，对多种时间尺度上的词义变化检测效果如何？
• RQ5 时间聚类与比较对识别名词语义演变的影响是什么？

主要发现

• 在48个案例的样本中，该方法在人工识别新词义诞生方面达到了60.4%的准确率。
• 在21个随机选取的实例样本中，该算法对分裂事件的正确检测率为57%。
• 在44%的新词义检测案例中，WordNet确认了该新词义，表明与既有的词汇资源具有较强的对齐性。
• WordNet确认了46%的分裂事件和43%的合并事件，表明与传统词汇数据库具有广泛的一致性。
• 该方法成功识别出25个来自2002–2005年俚语列表的俚语词，表明其对非正式及新兴用法具有敏感性。
• 结果表明，近一半的检测到的词义变化已在WordNet中被识别，凸显了该方法在词汇资源维护中的相关性。