[论文解读] A Deep Multi-View Learning Framework for City Event Extraction from Twitter Data Streams

Nazli Farajidavar, Şefki Kolozali+1 more|arXiv (Cornell University)|May 28, 2017

Complex Network Analysis Techniques参考文献 25被引用 7

一句话总结

本文提出了一种深度多视角学习框架，结合卷积神经网络（CNN）特征与条件随机场（CRF）驱动的命名实体识别技术，从实时Twitter流中提取多标签城市事件。该模型在各类事件上的平均准确率达到81%，并能比官方报告提前多达五小时检测到交通中断，展示了其在智慧城市实时城市感知与决策支持方面的潜力。

ABSTRACT

Cities have been a thriving place for citizens over the centuries due to their complex infrastructure. The emergence of the Cyber-Physical-Social Systems (CPSS) and context-aware technologies boost a growing interest in analysing, extracting and eventually understanding city events which subsequently can be utilised to leverage the citizen observations of their cities. In this paper, we investigate the feasibility of using Twitter textual streams for extracting city events. We propose a hierarchical multi-view deep learning approach to contextualise citizen observations of various city systems and services. Our goal has been to build a flexible architecture that can learn representations useful for tasks, thus avoiding excessive task-specific feature engineering. We apply our approach on a real-world dataset consisting of event reports and tweets of over four months from San Francisco Bay Area dataset and additional datasets collected from London. The results of our evaluations show that our proposed solution outperforms the existing models and can be used for extracting city related events with an averaged accuracy of 81% over all classes. To further evaluate the impact of our Twitter event extraction model, we have used two sources of authorised reports through collecting road traffic disruptions data from Transport for London API, and parsing the Time Out London website for sociocultural events. The analysis showed that 49.5% of the Twitter traffic comments are reported approximately five hours prior to the authorities official records. Moreover, we discovered that amongst the scheduled sociocultural event topics; tweets reporting transportation, cultural and social events are 31.75% more likely to influence the distribution of the Twitter comments than sport, weather and crime topics.

研究动机与目标

• 开发一种可扩展的实时系统，用于从非正式的Twitter文本流中检测城市相关事件。
• 解决在城市事件检测中因标注数据有限以及社交媒体文本短小、嘈杂带来的挑战。
• 整合多种数据源——Twitter、交通传感器和活动日历，以提高事件检测的准确性和时效性。
• 通过深度学习学习任务特定表示，减少对人工特征工程的依赖。
• 通过基于Google地图的交互式网络界面，实现实时可视化城市事件，供公众和管理部门使用。

提出的方法

• 采用分层多视角深度学习架构，融合基于CNN的文本表征与CRF驱动的命名实体识别（NER）标签。
• 基于图模型设计多视角学习框架，整合同一输入的互补视角：深度神经网络特征与基于词典的NER输出。
• 通过多个视角分类结果的后期融合，提升事件定位与类别预测的准确性。
• 设计数据包装器，实现实时摄入Twitter流及官方城市数据（如伦敦交通局API和Time Out London网站）。
• 使用Google地图、实时交通图层和每60秒更新一次的实时推文显示，实现基于网络的可视化界面。
• 采用基于CSV的数据管道，每60秒在60分钟时间窗口内流式传输并更新已分类的推文。

实验结果

研究问题

• RQ1 在无需大量任务特定特征工程的情况下，深度多视角学习框架能否有效从短篇、非正式的Twitter文本中提取多标签城市事件？
• RQ2 与单视角方法相比，CNN特征与基于CRF的NER的融合在多大程度上提升了事件分类性能？
• RQ3 Twitter数据在多大程度上能够提前于官方报告发现交通中断和文化社会活动？
• RQ4 计划内的文化社会活动在多大程度上影响了市民在社交媒体上报告事件的分布与时间模式？
• RQ5 实时交互式网络界面能否有效实现基于社交媒体与传感器数据的城市监测可视化与支持？

主要发现

• 所提出的多视角深度学习模型在所有事件类别上的平均F1得分达到81%，比单视角基线模型高出5%。
• 49.5%的Twitter报告交通中断事件比伦敦交通局的官方记录提前约五小时被检测到，显示出强大的早期预警潜力。
• 文化社会活动显著影响市民报告模式：与体育、天气或犯罪话题相比，涉及交通、文化和社交活动的推文使与交通相关的评论分布更可能发生变化，提升幅度达31.75%。
• 将Twitter数据与官方报告整合后，揭示出强烈的时间相关性，验证了社交媒体作为城市监测互补数据源的有效性。
• 网络界面实现了在Google地图上近实时可视化事件亮点，延迟低于60秒，支持公众与管理部门的参与。
• 该模型在地理上不同的城市（旧金山湾区与大伦敦地区）中均表现出稳健的泛化能力，证实了其跨城市适用性。