[論文レビュー] Imitation Learning for End to End Vehicle Longitudinal Control with Forward Camera

Laurent George, Thibault Buhet+3 more|arXiv (Cornell University)|Dec 14, 2018

Autonomous Vehicle Technology and Safety参考文献 11被引用数 11

ひとこと要約

本論文では、前方カメラとLSTMベースのニューラルネットワークのみを用いて、車両の縦方向速度制御のエンド・ツー・エンドの模倣学習システムを提示する。独自の平滑化損失関数を備えた新規なデータおよびラベル増強パイプラインを導入することで、最小限の人的介入で、困難なテストトラックにおけるシミュレーションおよび実世界テストにおいても、頑健な速度予測が可能となる。

ABSTRACT

In this paper we present a complete study of an end-to-end imitation learning system for speed control of a real car, based on a neural network with a Long Short Term Memory (LSTM). To achieve robustness and generalization from expert demonstrations, we propose data augmentation and label augmentation that are relevant for imitation learning in longitudinal control context. Based on front camera image only, our system is able to correctly control the speed of a car in simulation environment, and in a real car on a challenging test track. The system also shows promising results in open road context.

研究の動機と目的

• 前方カメラ入力のみを用いて、完全なエンド・ツー・エンドの模倣学習システムを、車両の速度制御に開発すること。
• 縦方向制御における模倣学習の分布シフトおよび一般化の問題に対処するため、データおよびラベル増強を特化して行うこと。
• 時間差平滑化損失関数を導入することで、滑らかで人間らしい速度制御を実現すること。
• 複雑な都市部のテストトラックにおけるシミュレーション（GTA V）および実世界テストで、システムを検証すること。
• ライブドライブシナリオにおいて、最小限の人的介入で、オンラインかつリアルタイムでの性能を示すこと。

提案手法

• 320x240の正規化された前方カメラ画像を処理する11層の深層ニューラルネットワーク（7層の畳み込み層、3層の全結合層、1層のLSTM層）が、所望の速度を予測する。
• ネットワーク出力を、ファジィゲイン適応を施したPIDコントローラーを用いて加速度命令に変換する。
• 平均二乗誤差（MSE）、時間差平滑化損失 $L_p$、およびL2正則化を組み合わせたカスタム損失関数を用いることで、滑らかな制御ダイナミクスを確保する。
• 平滑化損失 $L_p = \sum_{t=1}^{N} \left[ Y(t) - Y(t-1) \right] - \left[ \hat{Y}(t) - \hat{Y}(t-1) \right]$ は、予測された速度変化とエキスパートの速度変化の差を最小化することで、制御の滑らかさを向上させる。
• データ増強には、合成的な画像変換とラベルの摑み込みを含め、エキスパートの軌道からの逸脱をシミュレートすることで、耐性を高める。
• トレーニングデータは、シミュレーション（GTA V）および実世界走行（パリのオープンロードおよび動的バリアとシャンクレとを備えた専用テストトラック）から収集された。

実験結果

リサーチクエスチョン

• RQ1 前方カメラ入力のみを用いたエンド・ツー・エンドの模倣学習システムは、実世界走行において、頑健で滑らかな縦方向速度制御を達成できるか？
• RQ2 縦方向制御におけるオンライン推論時における分布シフトを軽減するために、ラベルおよびデータ増強はどの程度有効か？
• RQ3 時間差平滑化損失が、制御の滑らかさおよびシステム性能に与える影響は何か？
• RQ4 本システムは、バリアでのストップアンドゴーおよび急カーブなどの複雑で動的なシナリオに一般化できるか？
• RQ5 シミュレーション、オープンロード、専用テストトラック環境におけるシステムの性能は、どのように比較できるか？

主な発見

• 専用テストトラックでは、LSTMと $L_p$ 損失を用いた場合、速度の平均絶対誤差（MAE）が1.17 km/h、加速度のMAEが0.02 m/s²を達成した。
• CES 2018のライブデモンストレーションでは、複数ラップにわたり、1日あたり約1回の人的介入で、高い信頼性を示した。
• 可視化バックプロパゲーション解析により、ブレーキング時にネットワークが停止標識、バリア、先行車両といった関連する道路要因に注目していることが確認された。
• オープンロードデータでは、速度のMAEが6.40 km/hに達したが、これは都市部における一般化性能の向上の余地があることを示している。
• 提案された $L_p$ 損失は、ベースラインLSTMおよび通常のネットワークと比較して、制御の滑らかさを著しく向上させ、加速度のMAEを低減した。
• データ増強、ラベル増強、およびカスタム損失関数の組み合わせにより、人的監視を最小限に抑えながら、物理的車両でのリアルタイム制御が成功した。