[論文レビュー] Deep Learning for Real-Time Crime Forecasting and its Ternarization

Bao Wang, Penghang Yin+4 more|arXiv (Cornell University)|Nov 23, 2017

Anomaly Detection Techniques and Applications参考文献 28被引用数 20

ひとこと要約

本論文は、時間的累積集約と空間的スーパーサンプル化を用いてスパarsityを向上させる画期的な犯罪データ表現を用いて、ロサンゼルスにおける1時間単位のリアルタイム犯罪予測を目的とした空間的・時間的残差ネットワーク（ST-ResNet）を提案する。モデルは完全に三値化されても高い精度を維持し、メモリとエネルギー消費を削減することで、リソース制約のあるデバイスへのデプロイが可能である。

ABSTRACT

Real-time crime forecasting is important. However, accurate prediction of when and where the next crime will happen is difficult. No known physical model provides a reasonable approximation to such a complex system. Historical crime data are sparse in both space and time and the signal of interests is weak. In this work, we first present a proper representation of crime data. We then adapt the spatial temporal residual network on the well represented data to predict the distribution of crime in Los Angeles at the scale of hours in neighborhood-sized parcels. These experiments as well as comparisons with several existing approaches to prediction demonstrate the superiority of the proposed model in terms of accuracy. Finally, we present a ternarization technique to address the resource consumption issue for its deployment in real world. This work is an extension of our short conference proceeding paper [Wang et al, Arxiv 1707.03340].

研究の動機と目的

• 微細な空間的・時間的スケールにおける正確なリアルタイム犯罪予測の課題に取り組むこと、特にスパースで確率的な犯罪データを考慮して。
• 従来の分類ベースのモデルの限界を克服し、犯罪の強度を回帰問題としてモデル化することで、より洗練された予測を実現すること。
• 三値化を導入することで、精度の著しい低下を伴わずメモリと計算コストを削減し、実世界でのデプロイにおけるモデル効率を向上させること。
• 時間的および空間的信号強化技術を用いて、スパースな犯罪データにおける弱い信号を強化する堅牢なデータ表現の開発。

提案手法

• 犯罪データを、各ピクセルが特定の時間における地域グリッド内の犯罪件数を符号化する空間的・時間的画像として表現する。
• 時間軸方向に日周期的累積犯罪集約を適用し、予測可能なパターンを強調するとともにノイズを低減する。
• 空間的スーパーサンプル化に双一次補間を用い、空間的粒度を向上させ、局所的な犯罪ダイナミクスを捉える。
• 残差学習を用いて、ST-ResNetアーキテクチャを変更し、犯罪パターンにおける複雑な空間的・時間的依存関係をモデル化する。
• 重みを{-1, 0, +1}に制限し、学習可能なスケーリング係数を用いた三値重み量子化スキームを実装し、モデルサイズとエネルギー消費を削減する。
• 2段階の訓練プロセスを採用：まずADAMを用いて全精度重みを学習し、次に性能を保持するための射影関数を用いてそれらを三値値に投影する。

実験結果

リサーチクエスチョン

• RQ1 スパースで確率的なデータであるにもかかわらず、微小地理的領域における1時間単位の犯罪強度を効果的に予測できるか、深層学習モデルはその能力を有するか？
• RQ2 時間的累積集約と空間的スーパーサンプル化を組み合わせた提案されたデータ表現は、生の犯罪データと比較して予測精度をどのように向上させるか？
• RQ3 ST-ResNetの重みを三値化することで、モデルサイズと推論コストはどの程度削減され、予測精度はどの程度維持されるか？
• RQ4 分類ベースのアプローチと比較して、回帰ベースのST-ResNetモデルは、犯罪イベントの真の分布をどの程度正確に捉えられるか？
• RQ5 量子化技術を用いることで、計算リソースが限られたモバイルまたはエッジデバイスに効果的にデプロイ可能か？

主な発見

• 提案されたST-ResNetモデルは、全精度バージョンでテストRMSEが0.207を達成し、1時間単位の犯罪強度予測において高い精度を示した。
• 完全に三値化されたST-ResNetモデルはわずかな性能低下にとどまり、テストRMSEは0.242にとどまり、32倍のメモリ削減にもかかわらず精度の著しい低下がなかった。
• 三値化により、32ビット浮動小数点重みを1ビットの三値値と1つのスケーリング係数に置き換えることで、モデルサイズが削減され、推論が高速化された。
• 時間的累積集約と空間的スーパーサンプル化の組み合わせは、スパースな犯罪データにおける信号強度を顕著に向上させ、モデルの一般化能力を向上させた。
• 回帰ベースのアプローチは、存在/非存在のみを捉える二値分類モデルと比較して、犯罪件数の全分布を捉えることができ、優れた性能を示した。
• モデルはスケーラブルであり、法執行務へのリアルタイムデプロイに適しており、予防的パトロール計画に役立つ意思決定支援予測を提供する。