[论文解读] Comparison Analysis of Tree Based and Ensembled Regression Algorithms for Traffic Accident Severity Prediction

Muhammad Umer, Saima Sadiq+4 more|arXiv (Cornell University)|Oct 27, 2020

Traffic Prediction and Management Techniques参考文献 26被引用 15

一句话总结

本研究利用真实城市交通数据，评估基于树模型和集成回归算法在预测交通事故严重程度方面的表现。随机森林模型在使用20个最重要特征的情况下，准确率达到97.4%，精确率为95.4%，召回率为93.0%，F1分数为94.2%，表现优于其他模型，确立了其在严重程度预测中的最优性能。

ABSTRACT

Rapid increase of traffic volume on urban roads over time has changed the traffic scenario globally. It has also increased the ratio of road accidents that can be severe and fatal in the worst case. To improve traffic safety and its management on urban roads, there is a need for prediction of severity level of accidents. Various machine learning models are being used for accident prediction. In this study, tree based ensemble models (Random Forest, AdaBoost, Extra Tree, and Gradient Boosting) and ensemble of two statistical models (Logistic Regression Stochastic Gradient Descent) as voting classifiers are compared for prediction of road accident severity. Significant features that are strongly correlated with the accident severity are identified by Random Forest. Analysis proved Random Forest as the best performing model with highest classification results with 0.974 accuracy, 0.954 precision, 0.930 recall and 0.942 F-score using 20 most significant features as compared to other techniques classification of road accidents severity.

研究动机与目标

• 通过机器学习实现对交通事故严重程度的早期预测，以应对城市道路事故日益增长的挑战。
• 通过模型可解释性识别影响交通事故严重程度的最关键特征。
• 对比基于树模型的集成模型（随机森林、AdaBoost、极端梯度提升树、梯度提升）与混合统计模型的性能表现。
• 确定适用于城市环境中准确且可靠预测事故严重程度等级的最优机器学习模型。
• 通过提供数据驱动、高精度的预测框架，支持交通安全管理，助力城市道路管理部门决策。

提出的方法

• 应用基于树模型的集成方法：随机森林、AdaBoost、极端梯度提升树和梯度提升回归，用于基于回归的严重程度分类。
• 以逻辑回归结合随机梯度下降作为基线模型，并通过投票分类器构建统计模型的集成。
• 利用随机森林的特征重要性排序进行特征选择，识别出对事故严重程度最具影响力的20个预测变量。
• 采用标准分类指标评估模型性能：准确率、精确率、召回率和F1分数。
• 在真实城市交通事故数据集上训练和测试模型，确保结果的稳健性与泛化能力。
• 采用10折交叉验证，确保性能估计的可靠性，并降低过拟合风险。

实验结果

研究问题

• RQ1 在城市道路交通事故严重程度预测中，哪些基于树模型和集成回归模型表现最佳？
• RQ2 哪些特征对交通事故严重程度的影响最为显著？
• RQ3 随机森林在准确率、精确率、召回率和F1分数方面相较于其他集成模型表现如何？
• RQ4 基于统计模型的集成（逻辑回归结合随机梯度下降）能否达到与基于树模型的集成相当的性能？
• RQ5 随机森林的特征重要性排序在多大程度上有助于理解驱动事故严重程度的关键因素？

主要发现

• 随机森林在所有测试模型中取得最高准确率，达到97.4%，显著优于其他模型。
• 该模型精确率达到95.4%，表明其在严重事故预测中具备强大的正向预测能力。
• 召回率为93.0%，表明随机森林能有效识别出大多数实际发生的严重事故。
• F1分数为94.2%，证实其在精确率与召回率之间保持良好平衡，展现出优异的鲁棒性。
• 随机森林识别出的20个最关键特征包括道路类型、天气状况、一天中的时间以及车辆类型等变量。
• 逻辑回归结合随机梯度下降的集成模型性能劣于所有基于树的模型，进一步证实了在本研究背景下树模型集成的优越性。