[论文解读] Driving Experience Transfer Method for End-to-End Control of Self-Driving Cars

Dooseop Choi, Taeg‐Hyun An+2 more|arXiv (Cornell University)|Sep 6, 2018

Advanced Neural Network Applications参考文献 17被引用 4

一句话总结

本文提出了一种用于端到端自动驾驶控制的迁移学习方法，利用预训练源网络的车道偏离程度（LDL）预测结果，将目标网络适配到新的驾驶领域。通过基于LDL置信度融合两个网络的转向指令，该方法在模拟器中实现了稳定且安全的驾驶表现，在VYR和D2GT指标上均优于基线方法。

ABSTRACT

In this paper, we present a transfer learning method for the end-to-end control of self-driving cars, which enables a convolutional neural network (CNN) trained on a source domain to be utilized for the same task in a different target domain. A conventional CNN for the end-to-end control is designed to map a single front-facing camera image to a steering command. To enable the transfer learning, we let the CNN produce not only a steering command but also a lane departure level (LDL) by adding a new task module, which takes the output of the last convolutional layer as input. The CNN trained on the source domain, called source network, is then utilized to train another task module called target network, which also takes the output of the last convolutional layer of the source network and is trained to produce a steering command for the target domain. The steering commands from the source and target network are finally merged according to the LDL and the merged command is utilized for controlling a car in the target domain. To demonstrate the effectiveness of the proposed method, we utilized two simulators, TORCS and GTAV, for the source and the target domains, respectively. Experimental results show that the proposed method outperforms other baseline methods in terms of stable and safe control of cars.

研究动机与目标

• 为解决收集大规模、多样化真实世界驾驶数据以训练端到端深度神经网络的挑战。
• 实现在源领域（如模拟器）与目标领域（如真实世界或不同模拟器）之间，有效迁移自动驾驶控制知识。
• 在未见环境中提升端到端驾驶策略的泛化能力和稳定性，而无需从头开始重新训练。
• 将关键安全行为（如车道恢复）整合进迁移学习框架中。

提出的方法

• 使用共享的卷积主干网络（源网络）在源领域（TORCS）上进行预训练，以将图像映射为转向指令和车道偏离程度（LDL）。
• 目标网络通过源网络最后一层卷积特征进行训练，并使用其自身特定任务的头部来预测目标领域（GTAV）的转向指令。
• 最终的转向指令是源网络和目标网络预测结果的加权融合，其中权重由源网络的LDL得分决定。
• LDL得分作为置信度度量：较高的LDL表示与车道中心的偏离更大，从而促使系统更依赖目标网络的预测。
• 该方法采用多任务学习设置，使源网络同时预测转向和LDL，从而实现车道线等共享视觉表征的迁移。
• 训练目标包含一个损失函数，以鼓励准确的转向预测和可靠的LDL估计，从而提升在领域偏移场景下的鲁棒性。

实验结果

研究问题

• RQ1 在源领域上预训练的CNN能否有效将驾驶经验迁移至视觉特征不同的目标领域？
• RQ2 如何利用车道偏离程度（LDL）预测作为置信度信号，以改进源网络与目标网络预测结果的融合？
• RQ3 与微调或直接迁移基线方法相比，所提出方法是否在目标领域中实现了更稳定、更安全的驾驶表现？
• RQ4 该迁移方法能否在视觉和结构差异显著的领域间实现泛化，例如不同道路类型和环境？

主要发现

• 所提方法（Prop.2）在所有赛道上均实现了最低的平均D2GT（0.84米）和VYR（1.10），在稳定性和安全性指标上均优于基线方法。
• 在赛道4（具有笔直和缓和弯道）中，基线方法（BL）未能完成赛道，而Prop.2成功完成且偏离极小。
• 源网络（SN）在不熟悉道路类型（如隧道、水泥路）上表现出不稳定的转向行为，而Prop.2在所有环境中均保持一致且平滑的控制。
• 该方法依赖LDL实现动态融合，使系统能有效从车道偏离中恢复，如赛道1–3中返回车道中心所示。
• Prop.1（仅使用源网络预测）在赛道4中失败，原因是源领域中缺乏笔直道路的充分表征，凸显了目标网络适配的必要性。
• 主观评估确认，Prop.2产生了最一致且类人般的驾驶行为，其轨迹与真实路径高度吻合。