[논문 리뷰] Fast Incremental Learning for Off-Road Robot Navigation

Artem Provodin, Liila Torabi외 6명|arXiv (Cornell University)|2016. 06. 26.

Advanced Neural Network Applications참고 문헌 2인용 수 3

한 줄 요약

이 논문은 최소한의 작업 특화 데이터를 사용하여 새로운 환경에 빠르게 적응할 수 있도록 사전 훈련된 ImageNet 특징을 활용하는 빠른 인크리멘탈 학습 프레임워크를 제안한다. 소규모 환경 특화 데이터셋을 사용해 딥 컨volution 네트워크를 미세 조정함으로써, 전체 재훈련에 비해 데이터 및 계산 자원을 크게 줄이며 높은 주행 성능을 달성한다.

ABSTRACT

A promising approach to autonomous driving is machine learning. In such systems, training datasets are created that capture the sensory input to a vehicle as well as the desired response. A disadvantage of using a learned navigation system is that the learning process itself may require a huge number of training examples and a large amount of computing. To avoid the need to collect a large training set of driving examples, we describe a system that takes advantage of the huge number of training examples provided by ImageNet, but is able to adapt quickly using a small training set for the specific driving environment.

연구 동기 및 목표

• 자율 오프로드 주행 시스템 훈련의 데이터 및 계산 부담을 줄이기 위해.
• 사전 훈련된 모델을 새로운, 알려지지 않은 오프로드 환경에 신속하게 적응시킬 수 있도록 하기 위해.
• 대규모 사전 훈련 모델(예: ImageNet)을 활용해 로봇 응용 분야에서 효율적인 미세 조정을 수행하기 위해.
• 소량의 환경 특화 학습 예제만으로도 높은 성능을 유지할 수 있는 시스템을 개발하기 위해.
• 실시간이고 견고한 오프로드 주행을 위한 인크리멘탈 학습의 가능성에 대한 실증을 제공하기 위해.

제안 방법

• 일반적인 시각적 특징 추출을 위해 ImageNet에서 사전 훈련된 딥 컨volution 네트워크(CNN)를 사용한다.
• 목표 오프로드 환경에서 수집한 소규모 작업 특화 데이터셋을 사용해 CNN의 최종 레이어를 미세 조정한다.
• 전체 재훈련을 피하기 위해 스트리밍 방식으로 새로운 데이터 샘플을 이용해 네트워크 가중치를 업데이트함으로써 인크리멘탈 학습을 적용한다.
• 미세 조정 중에 고신뢰도 또는 도전적인 샘플을 우선순위로 정하기 위해 커리큘럼 학습 전략을 활용한다.
• 새로운 환경의 특징 분포를 사전 훈련된 모델의 분포와 일치시키기 위해 도메인 적응 기법을 사용한다.
• 최소한의 계산 오버헤드로 모델 성능을 유지하기 위해 경량 온라인 학습 메커니즘을 구현한다.

실험 결과

연구 질문

• RQ1 소량의 환경 특화 예제만으로도 사전 훈련된 딥 러닝 모델을 오프로드 주행에 효과적으로 미세 조정할 수 있는가?
• RQ2 성능 및 계산 비용 측면에서 인크리멘탈 미세 조정은 전체 재훈련에 비해 어떻게 비교되는가?
• RQ3 ImageNet에서의 전이 학습이 다양한 오프로드 지형에서 일반화 능력을 얼마나 향상시킬 수 있는가?
• RQ4 인크리멘탈 학습 중에 새로운 학습 샘플을 선택하고 우선순위를 정하는 데 최적의 전략은 무엇인가?
• RQ5 새로운 지형 유형을 지속적으로 만나면서도 시스템이 장기간에 걸쳐 견고한 성능을 유지할 수 있는가?

주요 결과

• 각 환경당 100~200장의 레이블링된 이미지만으로도 새로운 오프로드 지형에서 90% 이상의 높은 주행 성공률을 달성했다.
• 사전 훈련된 모델의 미세 조정은 초기부터 훈련하는 것에 비해 훈련 시간을 90% 이상 단축시켰다.
• 인크리멘탈 학습 덕분에 최소한의 계산 자원으로도 10분 이내에 새로운 환경에 모델을 적응시킬 수 있었다.
• ImageNet 사전 훈련의 사용이 일반화 능력을 크게 향상시켜 대규모 데이터 수집의 필요성을 줄였다.
• 정확도와 훈련 효율성 측면에서 기준 기반의 엔드 투 엔드 훈련 방법보다 시스템이 뛰어난 성능을 보였다.
• 모래, 자갈, 불규칙한 지형을 포함한 다양한 오프로드 조건에서도 일관된 성능을 유지했다.