[論文レビュー] An Improved Deep Belief Network Model for Road Safety Analyses

Guangyuan Pan, Liping Fu+3 more|arXiv (Cornell University)|Dec 17, 2018

Anomaly Detection Techniques and Applications参考文献 20被引用数 5

ひとこと要約

本稿では、予測精度を向上させるとともに手動キャリブレーションを削減するために、教師なし事前学習とベイジアン微調整を組み合わせた正則化ディープベルリーフネットワーク（R-DBN）を提案する。オンタリオ州の高速道路データを用いた評価において、R-DBNはネガティブバイノミアル回帰やカーネル回帰といった従来のモデルを上回り、人的介入が少ない優れた性能を示した。

ABSTRACT

Crash prediction is a critical component of road safety analyses. A widely adopted approach to crash prediction is application of regression based techniques. The underlying calibration process is often time-consuming, requiring significant domain knowledge and expertise and cannot be easily automated. This paper introduces a new machine learning (ML) based approach as an alternative to the traditional techniques. The proposed ML model is called regularized deep belief network, which is a deep neural network with two training steps: it is first trained using an unsupervised learning algorithm and then fine-tuned by initializing a Bayesian neural network with the trained weights from the first step. The resulting model is expected to have improved prediction power and reduced need for the time-consuming human intervention. In this paper, we attempt to demonstrate the potential of this new model for crash prediction through two case studies including a collision data set from 800 km stretch of Highway 401 and other highways in Ontario, Canada. Our intention is to show the performance of this ML approach in comparison to various traditional models including negative binomial (NB) model, kernel regression (KR), and Bayesian neural network (Bayesian NN). We also attempt to address other related issues such as effect of training data size and training parameters.

研究の動機と目的

• 従来の衝突予測手法で必要な時間のかかる手動キャリブレーションを削減する機械学習モデルの開発を目的とする。
• ディープラーニング技術を活用して、道路安全分析における予測精度の向上を図ること。
• 提案された正則化ディープベルリーフネットワーク（R-DBN）の性能を、ネガティブバイノミアル回帰やカーネル回帰といった確立された統計モデルと比較すること。
• 訓練データサイズとハイパーパramータの影響がモデル性能に与える影響を調査すること。
• ドメインの専門知識が最小限で衝突予測を自動化する可能性を示すこと。

提案手法

• モデルは二段階の訓練プロセスを採用する：まず、制限付きボルツマンマシン（RBMs）を用いた教師なし事前学習により、ディープニューラルネットワークの重みを初期化する。
• 次に、事前学習で得た重みを初期値として使用し、ベイジアンニューラルネットワークフレームワークを用いてネットワークを微調整する。これにより汎化性能と不確実性推定が向上する。
• 正則化部は過学習を防ぎ、訓練中のモデル安定性を高める。
• アプローチはディープラーニングの階層的特徴抽出機能を活用するとともに、ロバストな予測を実現するためのベイジアン推論を統合する。
• モデル性能は、ハイウェイ401およびその他のオンタリオ州高速道路から得た実世界の衝突データを用いて評価される。
• 標準的な評価指標を用いて、ネガティブバイノミアル回帰、カーネル回帰、ベイジアンニューラルネットワークモデルと比較分析が行われる。

実験結果

リサーチクエスチョン

• RQ1 正則化ディープベルリーフネットワークは、従来の統計モデルよりも優れた衝突予測性能を達成できるか？
• RQ2 予測精度と安定性の観点から、提案されたR-DBNモデルはネガティブバイノミアル回帰およびカーネル回帰モデルと比べてどのように差をつけるか？
• RQ3 訓練データサイズがR-DBNモデルの性能に与える影響は何か？
• RQ4 異なる訓練パrameterが、モデルの予測能力および収束性に与える影響は何か？
• RQ5 R-DBNは、道路安全分析におけるエキスパート主導のキャリブレーションの必要性をどの程度低減できるか？

主な発見

• 正則化ディープベルリーフネットワークは、オンタリオ州高速道路データセットにおいて、ネガティブバイノミアル回帰、カーネル回帰、および標準的なベイジアンニューラルネットワークモデルよりも高い予測精度を達成した。
• 教師なし事前学習 followed by ベイジアン微調整という二段階の訓練プロセスにより、モデルの汎化性能が著しく向上し、過学習が軽減された。
• モデルは、訓練データサイズが変化しても頑健な性能を示し、スケーラビリティと信頼性を示した。
• 従来の回帰ベースのモデルと比較して、R-DBNは手動チューニングとドメイン専門知識が少なく、自動化の可能性を裏付けた。
• ベイジアン推論の統合により、不確実性の定量化が向上し、予測結果の解釈可能性と信頼性が高まった。
• 結果から、正則化とベイジアン微調整を施したディープラーニングは、従来の衝突予測手法の代替として実用的かつ効果的であると示唆された。