[논문 리뷰] Deep Learning for Embodied Vision Navigation: A Survey

Fengda Zhu, Yi Zhu외 3명|arXiv (Cornell University)|2021. 07. 07.

Multimodal Machine Learning Applications참고 문헌 211인용 수 13

한 줄 요약

이 종합 검토는 몸체 시각 탐색을 위한 딥러닝 기법에 대한 포괄적인 개요를 제공하며, 벤치마크, 작업, 최신 기술 모델을 분류한다. 부분 관찰, 다중 모odal 지시 이해, 시뮬레이션에서 실제 환경으로의 영역 갭 등의 과제를 분석하고, 향후 강력하고 일반화 가능한 탐색 에이전트를 구축하기 위한 주요 방향으로 트랜스포머 기반 아키텍처, 계층적 강화 학습, 전이 학습을 규명한다.

ABSTRACT

"Embodied visual navigation" problem requires an agent to navigate in a 3D environment mainly rely on its first-person observation. This problem has attracted rising attention in recent years due to its wide application in autonomous driving, vacuum cleaner, and rescue robot. A navigation agent is supposed to have various intelligent skills, such as visual perceiving, mapping, planning, exploring and reasoning, etc. Building such an agent that observes, thinks, and acts is a key to real intelligence. The remarkable learning ability of deep learning methods empowered the agents to accomplish embodied visual navigation tasks. Despite this, embodied visual navigation is still in its infancy since a lot of advanced skills are required, including perceiving partially observed visual input, exploring unseen areas, memorizing and modeling seen scenarios, understanding cross-modal instructions, and adapting to a new environment, etc. Recently, embodied visual navigation has attracted rising attention of the community, and numerous works has been proposed to learn these skills. This paper attempts to establish an outline of the current works in the field of embodied visual navigation by providing a comprehensive literature survey. We summarize the benchmarks and metrics, review different methods, analysis the challenges, and highlight the state-of-the-art methods. Finally, we discuss unresolved challenges in the field of embodied visual navigation and give promising directions in pursuing future research.

연구 동기 및 목표

• 신체적 시각 탐색을 위한 딥러닝 연구 분야의 급격히 증가하는 연구 성과들을 체계적으로 정리하고 분석하기 위해.
• 부분 관찰, 장기 계획, 시뮬레이션에서 실제 환경으로의 영역 갭 등 몸체 탐색의 핵심 과제를 특정하기 위해.
• 다양한 탐색 작업과 환경에서 최신 기술 모델들을 비교·분석하기 위해.
• 실세계 적용을 위한 유망한 연구 방향, 예를 들어 트랜스포머 기반 모델, 계층적 강화 학습, 전이 학습을 부각시키기 위해.
• 미래의 몸체 인공지능 연구를 안내하기 위해 통합된 분류 체계와 벤치마크 개요를 제공하기 위해.

제안 방법

• 본 논문은 300편 이상의 몸체 시각 탐색 분야 연구를 체계적으로 검토하여 작업 유형, 환경, 방법론적 접근 방식별로 분류한다.
• 모델 자유형, 계획 기반, 자기지도 학습, 모델 기반 학습 파라다임으로 방법을 분류하며, 특히 다중 모달 융합 및 주의 메커니즘에 중점을 둔다.
• AI2-THOR, Habitat, Gibson 등의 벤치마크를 평가하여 그들의 작업 설계, 관찰 모odal, SPL 및 성공률와 같은 평가 지표를 분석한다.
• 시각-언어 탐색에서 다중 모달 이해를 위한 트랜스포머의 활용을 분석하여 RNN보다 향상된 성능을 보임을 보여준다.
• 정책 배포 문제를 완화하기 위해 도메인 랜덤라이제이션 및 메타-강화 학습과 같은 시뮬레이션에서 실제 환경으로의 전이 전략을 분석한다.
• 신경 기반 SLAM과 계층적 강화 학습의 통합을 통해 장기 계획 탐색을 위한 구조화된 기억 및 계획 모델링을 가능하게 한다.

실험 결과

연구 질문

• RQ1 몸체 시각 탐색 연구에서 사용되는 주요 벤치마크, 작업, 평가 지표는 무엇인가요?
• RQ2 특히 트랜스포머를 포함한 다양한 딥러닝 아키텍처는 시각-언어 탐색에서 다중 모달 이해를 어떻게 향상시키나요?
• RQ3 현재 모델들이 복잡한 지시 수행 및 상호작용 대화 작업에서 인간 기준에 비해 성능이 떨어지는 이유는 무엇인가요?
• RQ4 시뮬레이션에서 실제 환경으로의 영역 갭의 주요 원인은 무엇이며, 이를 실세계 적용을 위해 어떻게 완화할 수 있나요?
• RQ5 강력하고 일반화 가능한 몸체 에이전트를 달성하기 위한 가장 유망한 미래 연구 방향은 무엇인가요?

주요 결과

• 최신 기술 모델들은 여전히 인간 성능보다 크게 뒤져 있으며, 시각-언어 탐색 작업에서 SPL 기준으로 19%의 격차를 보인다.
• 트랜스포머 기반 모델은 시각적 입력과 언어 입력을 더 잘 융합함으로써 다중 모달 탐색에서 뛰어난 성능을 달성한다.
• 계층적 강화 학습과 신경 기반 SLAM 모듈은 에이전트가 구조화된 세계 모델을 학습하고 장기 계획 탐색 성능을 향상시킨다.
• 현재 에이전트는 언어 다양성과 사전 지식 부족으로 자연어 이해에 어려움을 겪어 유창하지만 잘못된 행동을 취한다.
• 전이 학습과 메타-강화 학습은 시뮬레이션에서 실제 환경으로의 영역 갭을 줄이고 온라인 적응을 가능하게 하여 유망한 성과를 보였다.
• 다양한 발전에도 불구하고 관찰, 행동 공간, 환경 역학의 차이로 인해 실세계 적용은 여전히 도전 과제이다.