[论文解读] Towards Deep Semantic Analysis Of Hashtags

Piyush Bansal, Romil Bansal+1 more|arXiv (Cornell University)|Jan 13, 2015

Topic Modeling参考文献 8被引用 7

一句话总结

本文提出了一种上下文感知的方法，用于将标签符号分割为有意义的实体，并将其链接到知识库（例如维基百科），从而提升社交媒体中的语义理解能力。通过在基于回归的排序模型中结合句法、语义和上下文特征，该方法在标签实体链接任务上实现了81.5%的F1分数，相较于基线模型整体推文实体链接的F1分数提升了15.3%。

ABSTRACT

Hashtags are semantico-syntactic constructs used across various social networking and microblogging platforms to enable users to start a topic specific discussion or classify a post into a desired category. Segmenting and linking the entities present within the hashtags could therefore help in better understanding and extraction of information shared across the social media. However, due to lack of space delimiters in the hashtags (e.g #nsavssnowden), the segmentation of hashtags into constituent entities ("NSA" and "Edward Snowden" in this case) is not a trivial task. Most of the current state-of-the-art social media analytics systems like Sentiment Analysis and Entity Linking tend to either ignore hashtags, or treat them as a single word. In this paper, we present a context aware approach to segment and link entities in the hashtags to a knowledge base (KB) entry, based on the context within the tweet. Our approach segments and links the entities in hashtags such that the coherence between hashtag semantics and the tweet is maximized. To the best of our knowledge, no existing study addresses the issue of linking entities in hashtags for extracting semantic information. We evaluate our method on two different datasets, and demonstrate the effectiveness of our technique in improving the overall entity linking in tweets via additional semantic information provided by segmenting and linking entities in a hashtag.

研究动机与目标

• 解决从社交媒体中未加空格的标签符号提取语义意义的挑战，因为标准分词方法在此类情况下失效。
• 克服现有系统将标签视为单一标记或在情感与实体分析中完全忽略它们的局限性。
• 通过利用从分割后的标签中提取的语义信息，提升推文中的实体链接性能。
• 开发一种稳健的、上下文感知的系统，能够处理标签的模糊性或多组可能的分割方式。
• 展示标签语义在下游自然语言处理任务（如情感分析、事件检测和搜索增强）中的实用性。

提出的方法

• 采用可变长度滑动窗口技术，为每个标签生成一组候选分割方案。
• 提取多种特征，包括单字词、双字词、大写形式、来自推文的上下文，以及与维基百科实体的语义相关性。
• 使用通过k折交叉验证（k=5）训练的回归模型，根据与推文上下文的一致性对分割方案进行排序。
• 将排名最高的分割方案整合到知识库链接流程中，以将实体映射到维基百科页面。
• 采用基于人工标注黄金标准的投票机制来训练和评估模型，确保对模糊性的鲁棒性。
• 使用P@n和F1分数在两个数据集（NEEL和斯坦福情感分析数据集）上评估分割和实体链接的性能。

实验结果

研究问题

• RQ1 当不存在词边界时，如何有效将标签分割为语义上连贯的实体？
• RQ2 与上下文无关的方法相比，引入推文上下文在多大程度上提升了标签分割和实体链接的准确性？
• RQ3 从分割后的标签中提取的语义信息能否提升推文中整体实体链接的性能？
• RQ4 不同类型的特征（如单字词、上下文、大写形式）在正确标签分割排序中的贡献如何？
• RQ5 标签与推文之间的语义一致性对实体链接质量有何影响？

主要发现

• 所提出的系统在标签实体链接任务上取得了81.5%的F1分数，相较于基线模型（F1: 42.9%）在NEEL数据集上提升了36.1个百分点。
• 在斯坦福情感分析数据集中，系统在标签分割任务上的P@1达到87.3%，优于Word Breaker模型（78.9%）。
• 上下文特征的引入使分割性能相比单字词基线提升了1.1%，其中相关性与上下文特征贡献显著。
• 与基线相比，系统在整体推文实体链接任务上的F1分数提升了15.3%，证明了标签语义在更广泛自然语言处理任务中的价值。
• 在斯坦福数据集上，Fleiss’ Kappa达到0.89，证实了人工标注黄金标准的高一致性，验证了其可靠性。
• 增加上下文和相关性特征带来了最大的增量收益（P@1最高提升1.1%），凸显了它们在消除可能分割歧义中的关键作用。