[论文解读] Autoencoder Regularized Network For Driving Style Representation Learning

Weishan Dong, Ting Yuan+3 more|arXiv (Cornell University)|Jan 5, 2017

Autonomous Vehicle Technology and Safety参考文献 21被引用 4

一句话总结

本文提出ARNet，一种深度神经网络，通过将监督分类与基于自编码器的无监督特征正则化相结合，从GPS行程数据中学习通用的驾驶风格表征。通过训练RNN编码行程序列，并利用自编码器重建RNN的隐藏状态，ARNet学习到一个鲁棒的、低维的瓶颈特征空间，能很好地泛化到未见过的驾驶员，在驾驶员数量估计（平均误差0.68）和驾驶员识别（准确率58.2%）任务上达到当前最优性能。

ABSTRACT

In this paper, we study learning generalized driving style representations from automobile GPS trip data. We propose a novel Autoencoder Regularized deep neural Network (ARNet) and a trip encoding framework trip2vec to learn drivers' driving styles directly from GPS records, by combining supervised and unsupervised feature learning in a unified architecture. Experiments on a challenging driver number estimation problem and the driver identification problem show that ARNet can learn a good generalized driving style representation: It significantly outperforms existing methods and alternative architectures by reaching the least estimation error on average (0.68, less than one driver) and the highest identification accuracy (by at least 3% improvement) compared with traditional supervised learning methods.

研究动机与目标

• 从GPS行程数据中学习能泛化到未见驾驶员的通用驾驶风格表征，克服传统监督学习的局限性。
• 解决真实驾驶数据中标签数据有限且未见驾驶员行为高度多样的挑战。
• 通过将无监督自编码器正则化整合到监督深度学习框架中，改进表征学习。
• 开发一种可扩展的行程编码框架trip2vec，将可变长度的GPS行程转换为固定长度的风格嵌入向量。
• 在两个真实世界基准上评估该方法：驾驶员数量估计和驾驶员识别，重点关注零样本泛化能力。

提出的方法

• ARNet使用共享的RNN编码器处理序列化的GPS行程数据，从速度和转向模式中提取时序特征。
• RNN的隐藏状态被输入到一个具有$l_1$-正则化瓶颈层（fc1）的自编码器中，该自编码器重建的是隐藏状态而非原始输入。
• 网络通过两个损失函数联合训练：驾驶员身份的分类损失和RNN隐藏状态的重建损失。
• 自编码器作为正则化器，强制学习到的特征在分类任务中具有判别性，且能从瓶颈层中重建。
• 瓶颈层（fc1）作为最终的驾驶风格表征，捕捉了在多样化驾驶员中通用的风格模式。
• trip2vec框架使用ARNet作为基础编码器，将完整行程转换为固定长度向量以用于下游任务。

实验结果

研究问题

• RQ1 结合监督与无监督学习的深度学习模型是否能比纯监督模型更好地泛化到未见驾驶员？
• RQ2 对隐藏层表征进行自编码器正则化在提升从GPS数据中学习驾驶风格表征的效果方面有多有效？
• RQ3 所提出的ARNet架构是否能在驾驶员数量估计和驾驶员识别任务中均优于现有深度网络？
• RQ4 将监督信号整合到无监督特征学习中是否能提升所学表征的质量与判别能力？
• RQ5 trip2vec框架在多大程度上实现了对可变长度GPS行程的有效、固定长度编码，以用于风格表征？

主要发现

• 在1至10名驾驶员的驾驶员数量估计任务中，ARNet的平均绝对误差为0.68，显著低于其他方法，且小于一名驾驶员。
• 在50类驾驶员识别任务中，ARNet的top-1准确率达到58.2%，比次佳方法（CONet）高出3个百分点。
• 模型的top-5准确率提升至78.3%，表明其在已知驾驶员的未见行程上具有强大的泛化能力。
• 与重建原始输入数据相比，自编码器重建RNN隐藏状态的方式，使特征泛化能力和鲁棒性更优。
• ARNet在多种评估设置下均保持性能增益，证实其在零样本和少样本场景下的有效性。
• 该方法不仅优于深度学习基线模型（如IRNN、StackedIRNN），也优于传统GBDT模型，凸显其在表征学习方面的优越性。