[论文解读] Semantic Variation in Online Communities of Practice

Marco Del Tredici, Raquel Fernández|arXiv (Cornell University)|Jun 15, 2018

Language and cultural evolution参考文献 34被引用 10

一句话总结

本文提出一个框架，用于量化在线实践社群中常见词汇的语义变异，利用分布式词表示检测超越话题差异的社群特异性语义。研究发现，语义演变主要由本地社交互动驱动，而非仅由话题决定，传播度和显著性成为关键因素，并通过外部语言建模任务得到验证。

ABSTRACT

We introduce a framework for quantifying semantic variation of common words in Communities of Practice and in sets of topic-related communities. We show that while some meaning shifts are shared across related communities, others are community-specific, and therefore independent from the discussed topic. We propose such findings as evidence in favour of sociolinguistic theories of socially-driven semantic variation. Results are evaluated using an independent language modelling task. Furthermore, we investigate extralinguistic features and show that factors such as prominence and dissemination of words are related to semantic variation.

研究动机与目标

• 探究常见词汇的语义变异是否独立于话题而产生，且由社群特异性社交互动驱动。
• 开发一种计算框架，用于量化在线论坛中领域层面与社群层面的语义变异。
• 评估检测到的语义演变对NLP任务（如语言建模）的实际影响。
• 探讨非语言因素（尤其是传播度与显著性）如何塑造实践社群中的语义变异。
• 基于大规模Reddit数据，为社会语言学中由社会驱动的语义变异理论提供实证支持。

提出的方法

• 将地理定位语言建模方法（Bamman et al., 2014）适配至Reddit子社群，学习社群特异性词嵌入。
• 引入两种定量度量：社群特异性指数（csi），用于检测罕见且社群独有的词义；传播度评分指数（dsi），用于评估某变体在社群内的使用广泛程度。
• 通过统计分析比较足球与编程领域内社群之间的词表示，识别常见词汇（如“box”、“yellow”、“believers”）的语义演变。
• 通过共现词与上下文用法的定性分析，解释语义现象（如语义扩展与语义收缩）。
• 通过外部语言建模任务评估框架的有效性，测量在忽略语义演变时性能的下降程度。
• 分析语义变异与词汇频率、显著性、传播度等非语言因素在社群间的关联。

实验结果

研究问题

• RQ1 在实践社群中，常见词汇的语义变异在多大程度上独立于所讨论的话题而产生？
• RQ2 如何对社群层面的语义变异进行定量测量，并将其与领域层面的变异区分开来？
• RQ3 传播度与显著性等非语言因素在塑造社群特异性词义方面发挥何种作用？
• RQ4 检测到的语义演变是否对下游NLP任务（如语言建模）产生可测量的影响？
• RQ5 社交动态与语言创新过程如何与社群特异性语义惯例的出现相关联？

主要发现

• 常见词汇的语义变异并非仅由话题决定；即使在讨论相同领域的社群中，也会出现独特语义，表明存在社群特异性惯例。
• 高社群特异性指数（csi）值的词汇在社群内传播度较低，表明其处于语言创新的早期阶段。
• 传播度评分指数（dsi）与语义变体的广泛采用相关，表明高传播度与稳定共享的语义相关。
• 语义扩展（如编程中的“box”）与语义收缩（如足球中的“yellow”指“黄牌”）等语义演变现象可被观察到，并具有上下文依据。
• 该框架检测到的语义变异显著影响语言建模性能，表明这些演变并非微不足道，而是对NLP系统产生真实影响。
• 社群特异性语义常作为身份标识（如r/RedDevils中的“army”），可能限制传播度，从而解释为何尽管csi值高，dsi值却较低。