[論文レビュー] Examining Deep Learning Architectures for Crime Classification and Prediction

Panagiotis Stalidis, Theodoros Semertzidis+1 more|arXiv (Cornell University)|Dec 3, 2018

Anomaly Detection Techniques and Applications被引用数 13

ひとこと要約

本論文は、空間的・時間的犯罪データを用いて、犯罪分類および予測のためのディーブラーニングアーキテクチャを評価し、空間的および時間的パターンを異なる順序で符号化する3つの設定を提案する。空間的・時間的統合モデルに残差接続と最適化されたハイパーパrameterを適用した場合、5つのデータセットで10の最先端手法を常に上回り、バッチ正規化とドロップアウトによる一般化性能の向上とともに、優れたホットスポット予測精度を達成している。

ABSTRACT

In this paper, a detailed study on crime classification and prediction using deep learning architectures is presented. We examine the effectiveness of deep learning algorithms on this domain and provide recommendations for designing and training deep learning systems for predicting crime areas, using open data from police reports. Having as training data time-series of crime types per location, a comparative study of 10 state-of-the-art methods against 3 different deep learning configurations is conducted. In our experiments with five publicly available datasets, we demonstrate that the deep learning-based methods consistently outperform the existing best-performing methods. Moreover, we evaluate the effectiveness of different parameters in the deep learning architectures and give insights for configuring them in order to achieve improved performance in crime classification and finally crime prediction.

研究の動機と目的

• オープン警察レポートデータを用いて、ディーブラーニングモデルの犯罪ホットスポット予測における有効性を調査すること。
• 空間的および時間的パターンを異なる順序で符号化する複数のディーブラーニング設定を比較すること。
• LSTM幅、バッチ正規化、ドロップアウトなどの最適なハイパーパrameterおよびアーキテクチャ的要素を特定し、犯罪予測性能の向上を図ること。
• 一般化性能と耐障害性に焦点を当て、予測警察におけるディーブラーニングの導入に役立つ設計ガイドラインを提供すること。
• ホットスポット地域における複数の犯罪種を同時に予測するマルチラベル分類を評価すること。

提案手法

• 3つのディーブラーニング設定を提案：(1) 空間的処理を先に実行し、その後時間的処理を行う、(2) 時間的処理を先に実行し、その後空間的処理を行う、(3) 空間的および時間的パターンを並列で符号化する。
• 空間的特徴抽出に畳み込み層、時間的モデリングに双方向LSTMを組み合わせたハイブリッドモデル「SFTT（Spatial-Fusion Temporal-Transformer）」を採用する。
• 空間的トランクにResNetスタイルの残差接続を適用し、勾配の流れと学習安定性を向上させる。
• 二重出力ヘッドを採用：一方はホットスポット分類（二値またはマルチラベル）、もう一方は将来の時間窓における犯罪件数の予測。
• プーリング層の後にバッチ正規化を適用し、ドロップアウトを10％から90％の範囲で変動させ、小規模な犯罪データセットにおける過学習を抑制する。
• マルチラベル分類では、最終層にシグモイド活性化関数とマルチクラス交差エントロピー損失関数を用い、すべての犯罪種の確率を同時に予測する。

実験結果

リサーチクエスチョン

• RQ1 空間的・時間的処理の順序が異なる3つのアーキテクチャ設定（空間的優先、時間的優先、並列処理）の中で、犯罪ホットスポット予測の性能が最も優れるのはどれか？
• RQ2 LSTM幅やドロップアウト率といったハイパーパrameterが、限られた犯罪データにおけるモデルの一般化性能にどのように影響するか？
• RQ3 バッチ正規化が、犯罪予測タスクにおけるモデルの安定性と性能向上にどの程度寄与するか？
• RQ4 マルチラベル分類の枠組みにより、複数の犯罪種のホットスポットを同時に予測できるか、その精度は十分に高いか？
• RQ5 本研究で提案するディーブラーニングモデルは、多様な実世界の犯罪データセットにおいて、10の最先端機械学習手法と定量的に比較して、どの程度優れているか？

主な発見

• SFTTモデルは、ResNetベースの空間的特徴抽出と並列時間的モデリングを組み合わせ、5つのすべてのデータセットで最高のF1スコアを達成し、10のベースライン手法をすべて上回った。
• 50個の隠れニューロンを有するLSTM層が、ほぼすべての関連する時間的パターンを捉えており、ネットワークが広がっても性能向上の効果が顕著でないことが示された。
• バッチ正規化を削除すると、性能が著しく低下し、小規模な犯罪データセットにおける学習の安定性を確保する上で、それが極めて重要な役割を果たしていることがわかった。
• ドロップアウト率を10％～30％の範囲に設定した場合、特に「すべての犯罪」クラスにおいて一般化性能が向上したが、より高いレート（例：90％）ではデータのスパarsityの影響で性能が劣化した。
• 二値分類モデルは、「すべての犯罪」を除くすべての犯罪種においてマルチラベル設定を上回ったが、クラス不均衡とスパarsityの影響により、「すべての犯罪」では性能が同等であった。
• ホットスポットの確率と犯罪件数の両方を予測する二重出力設計により、高リスク地域の順位付けが向上し、ホットスポット検出精度が向上した。