[论文解读] Exploring Emoji Usage and Prediction Through a Temporal Variation Lens

Francesco Barbieri, Luís Marujo+3 more|arXiv (Cornell University)|May 2, 2018

Digital Communication and Language参考文献 13被引用 33

一句话总结

本文研究了表情符号语义和用法在不同季节中的变化，并提出一种时间感知方法以提升表情符号预测性能。通过训练季节特定的表情符号嵌入，并将日期信息整合进深度学习模型，作者发现时间上下文显著提升了预测准确率，尤其对时间敏感的表情符号（如 🍀（圣帕特里克节）和 🌞（早晨/夜晚语境））效果明显，其中早期融合方法优于当前最先进系统。

ABSTRACT

The frequent use of Emojis on social media platforms has created a new form of multimodal social interaction. Developing methods for the study and representation of emoji semantics helps to improve future multimodal communication systems. In this paper, we explore the usage and semantics of emojis over time. We compare emoji embeddings trained on a corpus of different seasons and show that some emojis are used differently depending on the time of the year. Moreover, we propose a method to take into account the time information for emoji prediction systems, outperforming state-of-the-art systems. We show that, using the time information, the accuracy of some emojis can be significantly improved.

研究动机与目标

• 探究表情符号的语义和用法是否在一年四季（春季、夏季、秋季、冬季）中发生变化。
• 分析时间上下文（如节假日、季节、一天中的时间）如何影响表情符号的含义及共现模式。
• 提出并评估一种将时间信息（如日期）整合进表情符号预测模型的方法，以提升预测准确率。
• 确定时间无关的表情符号是否也能从时间上下文中受益，或其性能提升是否仅限于季节性表情符号。

提出的方法

• 构建了一个包含超过1亿条仅限美国的英文推文的大规模数据集，时间范围为2015年10月至2017年11月，筛选后仅保留包含单个表情符号的推文，且表情符号来自最常用的300个表情符号。
• 将数据集按四季划分为四个子集（春季、夏季、秋季、冬季），为每种子集分别训练skip-gram word2vec模型以生成表情符号嵌入，每个嵌入为300维空间，窗口大小为6个词符。
• 训练并比较四种季节特定的表情符号嵌入模型，通过k-最近邻（k-NN）和成对相关性矩阵分析语义变化。
• 提出两种将日期信息整合进神经表情符号预测模型的方法：早期融合（将日期嵌入与词级表示拼接）和晚期融合（将日期嵌入与注意力输出拼接）。
• 使用标准指标评估模型性能：精确率、召回率、宏F1、准确率（Top-1、Top-5、Top-10）以及覆盖率误差。
• 基于所有变体的性能比较，选择早期融合方法为最优方案。

实验结果

研究问题

• RQ1 表情符号的含义和用法在一年中不同季节是否有显著变化？
• RQ2 哪些表情符号在不同季节中表现出最大的语义差异？其背后的时间触发因素是什么（如节假日、天气、事件）？
• RQ3 整合时间信息（如月份、日期、一天中时间）是否能提升表情符号预测系统的性能？
• RQ4 时间无关的表情符号是否也能从时间上下文中受益，还是性能提升仅限于季节性表情符号？

主要发现

• k-NN分析显示，如 🍀（四叶草）、🎉（派对喷泉）和 🎓（毕业帽）等表情符号在不同季节中表现出显著的语义变化，其最近邻对象因上下文特定含义（如3月的圣帕特里克节）而改变。
• 相关性矩阵对比表明，如 🎉 与 🍷 这类表情符号对在不同季节间的相似度差异最大，表明时间对语义关联有强烈影响。
• 将日期嵌入整合进模型的早期融合方法优于基线模型（无日期信息）和晚期融合方法，F1得分达到22.10%，而无日期信息时为21.89%。
• 对于特定表情符号如 🍀（圣帕特里克节），集成日期信息后F1得分从0.54提升至0.63，性能相对提升16.7%。
• 即使非时间特定的表情符号如 😂 和 🌟 也表现出可测量的F1得分提升（如从0.44提升至0.49），表明时间上下文有助于消除歧义，不仅限于季节性事件。
• 早期融合模型的覆盖率误差最低（42.59），表明其标签分布更优，且在多候选预测中表现更一致。