[논문 리뷰] Learning Long-term Visual Dynamics with Region Proposal Interaction Networks

Haozhi Qi, Xiaolong Wang외 3명|arXiv (Cornell University)|2020. 08. 05.

Multimodal Machine Learning Applications참고 문헌 65인용 수 18

한 줄 요약

이 논문은 원시 이미지에서 장기 시각적 동역학을 모델링하기 위해 영역 제안 특징과 컨volution형 상호작용 네트워크를 활용하는 새로운 방법인 영역 제안 상호작용 네트워크(RPIN)를 제안한다. 공간적 맥락을 갖춘 잠재 특징 공간에서 물체 궤적을 추론함으로써, RPIN은 PHYRE 벤치마크에서 내부 및 교차 작업 일반화 설정 모두에서 AUCCESS 기준 최대 8점 향상되며 장기 예측 및 계획 분야에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Learning long-term dynamics models is the key to understanding physical common sense. Most existing approaches on learning dynamics from visual input sidestep long-term predictions by resorting to rapid re-planning with short-term models. This not only requires such models to be super accurate but also limits them only to tasks where an agent can continuously obtain feedback and take action at each step until completion. In this paper, we aim to leverage the ideas from success stories in visual recognition tasks to build object representations that can capture inter-object and object-environment interactions over a long-range. To this end, we propose Region Proposal Interaction Networks (RPIN), which reason about each object's trajectory in a latent region-proposal feature space. Thanks to the simple yet effective object representation, our approach outperforms prior methods by a significant margin both in terms of prediction quality and their ability to plan for downstream tasks, and also generalize well to novel environments. Code, pre-trained models, and more visualization results are available at https://haozhi.io/RPIN.

연구 동기 및 목표

• 재계획이 필요 없이 정확한 장기 예측을 가능하게 하는 데이터 기반의 시각적 동역학 모델을 개발하는 것.
• 원시 이미지에서 직접 물체 중심 표현을 학습함으로써 픽셀 수준의 예측과 추상 상태공간 동역학 사이의 격차를 메우는 것.
• 장기적인 시간 간격 동안 물체 간 상호작용 및 물체-환경 상호작용을 모델링하여 효과적인 후속 계획을 가능하게 하는 것.
• 특히 첫 번째 동작만 허용되는 상황에서 새로운 환경과 예상치 못한 작업에 효과적으로 일반화하는 것.

제안 방법

• 모델는 영역 풀링(RoIPooling)을 사용하여 프레임 수준의 특징에서 물체 특징을 추출하여 물체 및 환경적 맥락을 모두 포착한다.
• 컨volution형 상호작용 네트워크를 도입하여 MLP를 컨볼루션으로 대체함으로써 물체 특징의 공간적 구조를 유지한다.
• 잠재적 영역 제안 특징 공간에서의 상호작용을 추론하여 향후 물체의 위치와 형태 변화를 예측한다.
• 객체 특징 궤적을 연결하여 분류기를 훈련시켜 작업 성공 여부를 예측함으로써, 시각 입력에서 종단 간 계획을 가능하게 한다.
• 예측을 위해 T_train = 10개 타임스텝을 사용하며, 성공 레이블에 대해 교차 엔트로피 손실을 사용하여 종단 간 훈련을 수행한다.
• 추론 중에는 예측된 특징 궤적 기반으로 동작 점수를 매기고 순위를 매겨 계획을 수행한다.

실험 결과

연구 질문

• RQ1 원시 이미지에서 훈련된 시각적 동역학 모델이 재계획 없이 장기 예측 작업으로 일반화될 수 있는가?
• RQ2 공간적 맥락을 갖춘 물체 중심 표현이 시간에 따라 물체 간 상호작용 및 물체-환경 상호작용을 얼마나 잘 포착할 수 있는가?
• RQ3 학습된 동역학 모델이 예상치 못한 환경에서 효과적인 계획을 지원하는 데에 얼마나 기여하는가?
• RQ4 MLP 기반 상호작용 모델에 비해 컨볼루션을 통한 공간적 추론을 통합함으로써 장기 예측 정확도가 향상되는가?

주요 결과

• PHYRE 벤치마크에서 교차 작업 일반화 설정에서 DQN 기준선 대비 6점 향상되며, AUCCESS가 74.3에 도달한다.
• 내부 작업 일반화 설정에서 DQN 기준선 대비 8점 향상되며, AUCCESS가 82.1에 도달한다.
• 정성적 결과에서는 RPIN이 10초 간격으로 정확하고 충돌 인식이 가능한 궤적을 생성하는 반면, 기준선은 침투 및 불안정성을 보인다.
• SimB 작업에서 RPIN은 당구 타겟 상태 및 공격 작업 모두에서 최고 성능을 기록하여 강력한 계획 능력을 입증한다.
• 모델는 실세계 환경(RealB)과 합성 시나리오(SS) 모두에 대해 잘 일반화되며, 다양한 설정에서 타당하고 일관된 예측을 한다.
• 세그멘테이션 맵이나 사전 정의된 객체 마스크를 요구하지 않으며, 오직 학습된 영역 제안에 의존함으로써 최신 기술 수준의 기준선을 초월한다.