[论文解读] Examining Deep Learning Architectures for Crime Classification and Prediction

Panagiotis Stalidis, Theodoros Semertzidis+1 more|arXiv (Cornell University)|Dec 3, 2018

Anomaly Detection Techniques and Applications被引用 13

一句话总结

本文使用时空犯罪数据评估了深度学习架构在犯罪分类与预测中的表现，提出了三种以不同顺序编码空间与时间模式的配置。结果表明，采用残差连接和优化超参数的空间-时间融合模型在五个数据集上持续优于10种最先进方法，通过批量归一化和Dropout提升了泛化能力，实现了更优的热点区域预测准确率。

ABSTRACT

In this paper, a detailed study on crime classification and prediction using deep learning architectures is presented. We examine the effectiveness of deep learning algorithms on this domain and provide recommendations for designing and training deep learning systems for predicting crime areas, using open data from police reports. Having as training data time-series of crime types per location, a comparative study of 10 state-of-the-art methods against 3 different deep learning configurations is conducted. In our experiments with five publicly available datasets, we demonstrate that the deep learning-based methods consistently outperform the existing best-performing methods. Moreover, we evaluate the effectiveness of different parameters in the deep learning architectures and give insights for configuring them in order to achieve improved performance in crime classification and finally crime prediction.

研究动机与目标

• 探究利用公开警方报告数据预测犯罪热点的深度学习模型的有效性。
• 比较多种深度学习配置在不同顺序下编码空间与时间模式的性能。
• 识别最优超参数与网络组件（如LSTM宽度、批量归一化和Dropout）以提升犯罪预测性能。
• 为部署深度学习于预测警务提供设计指南，重点关注泛化能力与鲁棒性。
• 评估多标签分类在热点区域中同时预测多种犯罪类型的可行性。

提出的方法

• 提出三种深度学习配置：(1) 先空间后时间，(2) 先时间后空间，(3) 并行编码空间与时间模式。
• 采用一种名为SFTT（空间融合时间Transformer）的混合模型，结合卷积层进行空间特征提取与双向LSTM进行时间建模。
• 在空间主干中采用残差连接（ResNet风格），以改善梯度流动与训练稳定性。
• 采用双输出头设计：一个用于热点分类（二分类或多标签），一个用于预测未来时间窗口内的犯罪数量。
• 在池化层后应用批量归一化，并使用不同率的Dropout（10%至90%）以缓解小规模犯罪数据集上的过拟合。
• 对于多标签分类，最终层采用Sigmoid激活函数，并使用多类交叉熵损失函数，以同时预测所有犯罪类型的概率。

实验结果

研究问题

• RQ1 在犯罪热点预测中，哪种深度学习架构配置——空间优先、时间优先或并行——表现最佳？
• RQ2 LSTM宽度与Dropout率等超参数如何影响模型在有限犯罪数据上的泛化能力？
• RQ3 批量归一化在犯罪预测任务中在多大程度上提升了模型的稳定性和性能？
• RQ4 多标签分类设置能否以可接受的准确率同时预测多个犯罪类型的热点？
• RQ5 所提出的深度学习模型在多样化的真实世界犯罪数据集上，与10种最先进机器学习方法相比，其性能在定量上如何？

主要发现

• 采用ResNet式空间特征提取与并行时间建模的SFTT模型在所有五个数据集上均取得最高F1分数，优于全部10种基线方法。
• 仅使用50个隐藏神经元的LSTM层已能捕捉几乎所有相关的时间模式，表明更宽的网络带来的收益递减。
• 移除批量归一化导致性能显著下降，凸显其在小规模犯罪数据集上稳定训练的关键作用。
• Dropout率在10%至30%之间时提升了泛化能力，尤其对'所有犯罪'类别效果明显，但更高率（如90%）因数据稀疏性导致性能下降。
• 二分类模型在除'所有犯罪'外的所有犯罪类型上均优于多标签设置，而'所有犯罪'类别性能相近，原因在于类别不平衡与数据稀疏性。
• 双输出设计（同时预测热点概率与犯罪数量）提升了高风险区域的排序质量，从而提高了热点检测的准确率。