[论文解读] Semantic Scan: Detecting Subtle, Spatially Localized Events in Text Streams

Abhinav Maurya, Kenton Murray+4 more|arXiv (Cornell University)|Feb 13, 2016

Data-Driven Disease Surveillance参考文献 33被引用 7

一句话总结

语义扫描（Semantic Scan, SS）是一种新颖且可扩展的框架，通过结合对比主题建模、在线文档分配以及基于似然比的空间扫描，实现实时文本流中细微、空间局部化新兴事件的检测。该方法在无需标注数据或人工调参的情况下，实现了高达10倍的检测速度提升和97%的检测准确率，显著优于现有方法，且在事件检测速度、准确率和特征刻画方面表现卓越。

ABSTRACT

Early detection and precise characterization of emerging topics in text streams can be highly useful in applications such as timely and targeted public health interventions and discovering evolving regional business trends. Many methods have been proposed for detecting emerging events in text streams using topic modeling. However, these methods have numerous shortcomings that make them unsuitable for rapid detection of locally emerging events on massive text streams. In this paper, we describe Semantic Scan (SS) that has been developed specifically to overcome these shortcomings in detecting new spatially compact events in text streams. Semantic Scan integrates novel contrastive topic modeling with online document assignment and principled likelihood ratio-based spatial scanning to identify emerging events with unexpected patterns of keywords hidden in text streams. This enables more timely and accurate detection and characterization of anomalous, spatially localized emerging events. Semantic Scan does not require manual intervention or labeled training data, and is robust to noise in real-world text data since it identifies anomalous text patterns that occur in a cluster of new documents rather than an anomaly in a single new document. We compare Semantic Scan to alternative state-of-the-art methods such as Topics over Time, Online LDA, and Labeled LDA on two real-world tasks: (i) a disease surveillance task monitoring free-text Emergency Department chief complaints in Allegheny County, and (ii) an emerging business trend detection task based on Yelp reviews. On both tasks, we find that Semantic Scan provides significantly better event detection and characterization accuracy than competing approaches, while providing up to an order of magnitude speedup.

研究动机与目标

• 解决现有主题建模方法在大规模、噪声密集的文本流中检测快速涌现、空间局部化事件时的局限性。
• 实现在不依赖标注数据或人工干预的前提下，实现对异常文本模式的早期且准确检测。
• 提升现实应用场景中事件检测与特征刻画的及时性与精确度，如公共卫生监测与商业趋势监控。
• 开发一种可扩展的在线框架，能够适应突发的主题动态变化，同时对拼写错误、俚语及方言变异等噪声保持鲁棒性。
• 在自由文本、地理标签化数据流中检测与刻画新兴事件方面，超越现有最先进方法。

提出的方法

• 整合对比主题建模，识别背景与前景文档聚类之间的主题差异，突出异常关键词模式。
• 采用在线文档分配机制，实时动态将新文档分配至主题，实现对大规模文本流的可扩展处理。
• 基于严谨的似然比空间扫描方法，检测具有意外关键词共现的统计显著性文档聚类。
• 应用双聚类方法，将背景主题（普遍、弥散）与前景主题（特定、局部）分离，提升对局部事件的检测能力。
• 利用适配于主题分布的空间扫描统计框架，实现对文本流中异常空间区域的检测。
• 无需标注数据或预处理，完全依赖统计显著性检测噪声大、非结构化的文本中的新兴事件。

实验结果

研究问题

• RQ1 主题建模框架是否能比现有方法更有效地检测实时文本流中的细微、空间局部化事件？
• RQ2 与 Topics over Time、Online LDA 和 Labeled LDA 等最先进方法相比，Semantic Scan 在检测新兴事件方面的表现如何？
• RQ3 在现实应用如疾病监测与商业趋势检测中，Semantic Scan 在检测速度与准确率方面提升程度如何？
• RQ4 该框架能否通过 Hellinger 距离、空间重叠与文档重叠等指标，准确刻画新兴事件的范围与内容？
• RQ5 在真实文本数据中，面对拼写错误与俚语等语言变异，Semantic Scan 的鲁棒性如何？

主要发现

• Semantic Scan 的检测速度最高提升一个数量级，平均运行时间仅为 1,649 秒，远低于 Topics over Time 的 43,281 秒。
• 在固定 1 个月的假阳性率下，SS 平均在 2.44 天内检测到事件，优于 ToT（5.71 天）、OLDA（3.29 天）和 Labeled LDA（4.11 天）。
• 在 1 个月的假阳性率下，SS 检测到 97% 的注入事件，显著优于 ToT（85%）、OLDA（80%）和 Labeled LDA（85%）。
• SS 的真实主题分布与检测到的主题分布之间的 Hellinger 距离最低，表明其主题刻画准确度最优。
• 空间重叠与文档重叠指标显示，SS 在早期检测阶段表现优于竞争方法，证实其对受影响区域与文档的精确定位能力。
• 在急诊科与 Yelp 评论数据集中，SS 展现出对噪声与语言变异的强鲁棒性，无需人工调参或标注数据即可保持高性能。