[논문 리뷰] VTNet: Visual Transformer Network for Object Goal Navigation

Heming Du, Xin Yu외 1명|arXiv (Cornell University)|2021. 05. 20.

Multimodal Machine Learning Applications참고 문헌 35인용 수 36

한 줄 요약

VTNet은 시공간 강화 로컬 객체 기술자와 위치 글로벌 영역 기술자를 융합하여 시공간 인지 특성을 학습하는 시각 변환기(Visual Transformer)를 도입하고, 시각 정보를 방향 탐색 신호와 정렬시키도록 사전 학습한 후 엔드-투-엔드 내비게이션 정책에 활용하여 AI2-Thor의 보지 않은 환경에서 기존 방법을 능가하는 효율적인 네비게이션을 달성한다.

ABSTRACT

Object goal navigation aims to steer an agent towards a target object based on observations of the agent. It is of pivotal importance to design effective visual representations of the observed scene in determining navigation actions. In this paper, we introduce a Visual Transformer Network (VTNet) for learning informative visual representation in navigation. VTNet is a highly effective structure that embodies two key properties for visual representations: First, the relationships among all the object instances in a scene are exploited; Second, the spatial locations of objects and image regions are emphasized so that directional navigation signals can be learned. Furthermore, we also develop a pre-training scheme to associate the visual representations with navigation signals, and thus facilitate navigation policy learning. In a nutshell, VTNet embeds object and region features with their location cues as spatial-aware descriptors and then incorporates all the encoded descriptors through attention operations to achieve informative representation for navigation. Given such visual representations, agents are able to explore the correlations between visual observations and navigation actions. For example, an agent would prioritize "turning right" over "turning left" when the visual representation emphasizes on the right side of activation map. Experiments in the artificial environment AI2-Thor demonstrate that VTNet significantly outperforms state-of-the-art methods in unseen testing environments.

연구 동기 및 목표

• 물체 목표 내비게이션에서 관찰이 대상 객체를 향한 행동을 안내하도록 정보성 시각 표현을 제안한다.
• 발견된 객체들과 공간 영역 간의 관계를 활용하는 Visual Transformer(VT)를 개발하여 탐색에 필요한 특징을 생성한다.
• 효과적인 어텐션 기반 융합을 가능하게 하기 위해 공간 인식 로컬Descr(스페이셜-엔하이드 로컬) 및 위치 글로벌 디스크립터를 도입한다.
• 후처리 정책 학습을 용이하게 하기 위해 시각 표현을 방향 내비게이션 신호와 연관시키는 VT를 사전 학습한다.
• VTNet의 엔드-투-엔드 학습을 시연하고 unseen 환경에서 최첨단 기반선 대비 성능 향상을 보인다.

제안 방법

• DETR을 사용해 장면의 모든 객체 인스턴스를 탐지하고 인스턴스 간의 관계를 보존하여 인코딩한다.
• 정규화된 경계 상자, 신뢰도, 의미 레이블을 연결하고 대상 지시자(target indicator)와 함께 MLP를 통해 VT 인코더 키를 형성하는 스페이셜-엔하이드 로컬 디스크립터를 만든다.
• 글로벌 이미지 특징을 추출하고 채널 수를 줄인 뒤 영역별 위치 임베딩을 추가하여 VT 디코더 쿼리를 형성하는 위치 글로벌 디스크립터를 생성한다.
• 시각적으로 강화된 로컬 디스크립터(키/값)에 위치 글로벌 디스크립터(쿼리)가 주목하도록 시각 변환기를 사용해 최종 탐색 시각 표현을 생성한다.
• 모방 학습을 통해 최적의 내비게이션 행동을 예측(Dijkstra가 생성한 지시를 기반으로)하여 강화 학습 기반 정책 학습 전에 좋은 초기화를 제공한다.
• VT에서 파생된 표현 위에 A3C를 사용해 내비게이션 정책을 학습하여 사전 학습 후 엔드-투-엔드 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 검출된 모든 객체 인스턴스와 이들의 공간 영역에 대해 추론하는 시각 변환기가 객체 목표 탐색에 더 informative한 장면 표현을 생성할 수 있는가?
• RQ2 공간 강화 로컬 디스크립터와 위치 글로벌 디스크립터를 포함시키면 방향 신호 및 탐색 효율이 개선되는가?
• RQ3 시각 표현을 내비게이션 행동과 정렬시키는 사전 학습 방식이 unseen 환경에서 더 나은 내비게이션 정책 학습을 촉진하는가?

주요 결과

• VTNet은 AI2-Thor의 보지 않은 테스트 장면에서 경쟁 방법 및 기존 최첨단 대비 높은 성공률과 SPL을 달성한다.
• DETR 기반 객체 특징을 사용하는 것이 글로벌 맥락과 함께 트랜스포머 기반 객체 표현의 이점을 강조하며 Faster R-CNN 특징보다 성능이 향상된다.
• VT 디코더, 글로벌 특징, 위치 임베딩의 필요성이 효과적인 내비게이션에 기여한다는 것을 확인하는 제거 실험이 있다.
• 사전 학습 방식은 결정적이다; 이를 빼면 VT가 유용한 내비게이션 정책으로 수렴하지 못한다.
• VTNet 및 VTNet+TPN은 SP 및 SAVN과 같은 경쟁 방법들을 능가하여 시각 변환기 기반 시각 표현이 내비게이션에 효과적임을 입증한다.