[논문 리뷰] Driving Experience Transfer Method for End-to-End Control of Self-Driving Cars

Dooseop Choi, Taeg‐Hyun An외 2명|arXiv (Cornell University)|2018. 09. 06.

Advanced Neural Network Applications참고 문헌 17인용 수 4

한 줄 요약

이 논문은 사전 훈련된 소스 네트워크에서 유도된 차선 이탈 수준(LDL) 예측을 활용하여 새로운 주행 도메인에 맞게 타겟 네트워크를 적응시키는 엔드 투 엔드 자율주행 제어를 위한 전이 학습 방법을 제안한다. LDL 신뢰도를 기반으로 두 네트워크의 조향 명령을 융합함으로써, 시뮬레이터에서 안정적이고 안전한 주행 성능을 달성하였으며, VYR 및 D2GT 지표에서 베이스라인을 모두 능가하였다.

ABSTRACT

In this paper, we present a transfer learning method for the end-to-end control of self-driving cars, which enables a convolutional neural network (CNN) trained on a source domain to be utilized for the same task in a different target domain. A conventional CNN for the end-to-end control is designed to map a single front-facing camera image to a steering command. To enable the transfer learning, we let the CNN produce not only a steering command but also a lane departure level (LDL) by adding a new task module, which takes the output of the last convolutional layer as input. The CNN trained on the source domain, called source network, is then utilized to train another task module called target network, which also takes the output of the last convolutional layer of the source network and is trained to produce a steering command for the target domain. The steering commands from the source and target network are finally merged according to the LDL and the merged command is utilized for controlling a car in the target domain. To demonstrate the effectiveness of the proposed method, we utilized two simulators, TORCS and GTAV, for the source and the target domains, respectively. Experimental results show that the proposed method outperforms other baseline methods in terms of stable and safe control of cars.

연구 동기 및 목표

• 엔드 투 엔드 딥 네ural 네트워크를 훈련하기 위해 대규모이고 다양한 실차량 주행 데이터를 수집하는 과제를 해결하기 위해.
• 예를 들어 시뮬레이터에서의 소스 도메인에서부터 실차량 또는 다른 시뮬레이터인 타겟 도메인으로의 효과적인 지식 전이를 가능하게 하기 위해.
• 재훈련 없이도 새로운 환경에서의 엔드 투 엔드 주행 정책의 일반화 및 안정성을 향상시키기 위해.
• 안전 핵심 행동인 차선 복귀 기능을 전이 학습 프레임워크에 통합하기 위해.

제안 방법

• 공통 컨볼루션 블록(소스 네트워크)를 사용하여 소스 도메인(TORCS)에서 이미지를 입력으로 받아 조향 명령과 차선 이탈 수준(LDL)을 동시에 예측하도록 사전 훈련한다.
• 타겟 네트워크는 소스 네트워크의 마지막 컨볼루션 레이어에서 추출된 특징을 사용하며, 타겟 도메인(GTAV)의 조향 명령을 예측하기 위한 고유한 작업 전용 헤드를 갖는다.
• 최종 조향 명령은 소스 및 타겟 네트워크의 예측을 LDL 점수에 기반한 가중치로 융합하여 결정된다.
• LDL 점수는 신뢰도 측정값으로 기능한다: 높은 LDL 값은 차선 중심에서의 이탈 정도가 크다는 것을 의미하며, 이에 따라 타겟 네트워크의 예측에 더 큰 비중을 두게 된다.
• 소스 네트워크가 조향과 LDL을 동시에 예측하는 다중 작업 학습 설정을 사용함으로써, 차선선과 같은 공유된 시각적 표현을 전이할 수 있다.
• 훈련 목표는 정확한 조향 예측과 신뢰할 수 있는 LDL 추정을 장려하는 손실 함수를 포함하며, 도메인 분리 상황에서의 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 소스 도메인에서 사전 훈련된 CNN이 시각적 특성이 다른 타겟 도메인으로 주행 경험을 효과적으로 전이할 수 있는가?
• RQ2 차선 이탈 수준(LDL) 예측을 어떻게 신뢰도 신호로 활용하여 소스 및 타겟 네트워크의 예측 융합을 향상시킬 수 있는가?
• RQ3 제안된 방법이 피니팅 또는 직접 전이 베이스라인 대비 타겟 도메인에서 더 안정적이고 안전한 주행 성능을 달성하는가?
• RQ4 다른 도로 유형과 환경 간 시각적 및 구조적 차이가 큰 도메인 간에도 이 전이 방법이 일반화 가능한가?

주요 결과

• 제안된 방법(Prop.2)은 모든 코스에서 평균 D2GT(0.84미터)와 VYR(1.10)가 가장 낮게 기록되어, 안정성과 안전성 지표에서 모두 베이스라인 방법을 능가하였다.
• 직선 및 약간 굽은 도로로 구성된 코스 4에서는 베이스라인 방법(BL)이 코스를 완주하지 못한 반면, Prop.2는 최소한의 이탈으로 성공적으로 완주하였다.
• 소스 네트워크(SN)는 익숙하지 않은 도로 유형(예: 턨널, 시멘트 도로)에서 조향 제어가 불안정했지만, Prop.2는 모든 환경에서 일관되고 부드러운 제어를 유지하였다.
• LDL 기반 동적 융합에 의존함으로써, 시스템은 차선 이탈 복귀를 효과적으로 수행하였으며, 코스 1~3에서 차선 중심으로의 복귀가 확인되었다.
• Prop.1은 소스 네트워크의 예측만을 사용했기 때문에 소스 도메인에 직선 도로 표현이 부족하여 코스 4에서 실패하였다. 이는 타겟 네트워크 적응의 필요성을 강조한다.
• 주관적 평가에서 Prop.2는 가장 일관되고 인간과 유사한 주행 행동을 보였으며, 궤적도 실제 경로와 매우 가까이 따라갔다.