[논문 리뷰] Multi-Task Domain Adaptation for Deep Learning of Instance Grasping from Simulation

Kuan Fang, Yunfei Bai외 3명|arXiv (Cornell University)|2017. 10. 17.

Robot Manipulation and Learning참고 문헌 33인용 수 10

한 줄 요약

이 논문은 시뮬레이션에서 레이블이 있는 데이터를 사용해 딥 네ural 네트워크를 훈련시켜 인스턴스 그립핑을 수행한 후, 양 도메인에서의 무차별적 그립핑 데이터만을 사용해 실제 로봇에 전이하는 다중 작업 도메인 적응 프레임워크를 제안한다. 인스턴스 그립핑과 무차별적 그립핑 작업 간에 네트워크 아키텍처를 공유하고 도메인-대비 손실을 적용함으로써, 실제 인스턴스 그립핑에서 64.8%의 성공률을 달성하였으며, 실제 도메인 레이블 데이터가 없음에도 불구하고 베이스라인 및 두 타워 도메인 적응보다 뛰어난 성능을 보였다.

ABSTRACT

Learning-based approaches to robotic manipulation are limited by the scalability of data collection and accessibility of labels. In this paper, we present a multi-task domain adaptation framework for instance grasping in cluttered scenes by utilizing simulated robot experiments. Our neural network takes monocular RGB images and the instance segmentation mask of a specified target object as inputs, and predicts the probability of successfully grasping the specified object for each candidate motor command. The proposed transfer learning framework trains a model for instance grasping in simulation and uses a domain-adversarial loss to transfer the trained model to real robots using indiscriminate grasping data, which is available both in simulation and the real world. We evaluate our model in real-world robot experiments, comparing it with alternative model architectures as well as an indiscriminate grasping baseline.

연구 동기 및 목표

• 실제 세계 레이블 데이터 수집이 비용이 많이 들고 시간이 오래 걸리는 인스턴스 그립핑의 시뮬레이션에서 실제 세계로의 전이 과제를 해결하기 위해.
• 실제 세계 레이블 데이터 없이도 단지 시뮬레이션 데이터에서 훈련된 인스턴스 그립핑 정책을 제로샷으로 실제 세계에 배포할 수 있도록 하기 위해.
• 공유된 특징을 통해 작업 간의 도메인 적응을 적용하여 시뮬레이션과 현실 간의 도메인 이탈을 완화하기 위해.
• 매번 세그멘테이션을 수행하지 않고도 단일 초기 인스턴스 세그멘테이션 마스크와 단일 RGB 영상만을 사용하여 효과적인 전이를 가능하게 하기 위해.
• 추가적인 실제 세계 미세조정 없이도 실제 환경에서 예상치 못한 물체에 일반화할 수 있도록 하기 위해.

제안 방법

• 공유된 컨볼루션 특징과 작업별 전용 헤드를 사용하여 인스턴스 그립핑과 무차별적 그립핑을 함께 훈련시키는 다중 작업 학습 프레임워크.
• 모델은 단일 인스턴스 세그멘테이션 마스크와 단일 RGB 영상을 입력으로 받아 후보 모터 명령의 그립핑 성공 확률을 예측한다.
• 공유된 특징 표현에 도메인-대비 손실을 적용하여 시뮬레이션과 실제 세계 데이터 간의 도메인 이탈을 최소화한다.
• 시뮬레이션과 실제 세계에서의 무차별적 그립핑 데이터를 사용해 도메인 식별자를 훈련시켜 특징 수준의 정렬을 가능하게 한다.
• 네트워크는 세 개의 타워 아키텍처를 사용한다: 공유된 RGB 스트림, 각 그립핑 유형별 전용 헤드, 도메인 적응을 위한 도메인 식별자.
• 마스크 R-CNN은 각 에피소드의 시작에 한 번만 사용되어 목표 물체 마스크를 생성하며, 실시간 추론 오버헤드를 방지한다.

실험 결과

연구 질문

• RQ1 실제 세계 레이블 데이터가 전혀 없는 상태에서 단지 시뮬레이션 인스턴스 그립핑 데이터로 훈련된 모델이 실제 세계 배포에 일반화될 수 있는가?
• RQ2 다중 작업 도메인 적응이 시뮬레이션과 실제 로봇 그립핑 간의 도메인 이탈을 얼마나 효과적으로 줄이는가?
• RQ3 인스턴스 그립핑과 무차별적 그립핑 간에 네트워크 아키텍처를 공유할 경우, 별도의 아키텍처보다 전이 성능이 향상되는가?
• RQ4 단일 초기 세그멘테이션 마스크만으로도 실제 세계 시나리오에서 효과적인 인스턴스 그립핑을 수행할 수 있는가?
• RQ5 제안된 방법은 단지 무차별적 그립핑 정책이나 두 타워 도메인 적응을 사용하는 베이스라인과 비교해 어떻게 성능을 냈는가?

주요 결과

• 제안된 방법은 실제 인스턴스 그립핑에서 64.8%의 성공률을 달성하였으며, 무차별적 그립핑 베이스라인(목표 물체에서 13.6% 성공)보다 뚜렷이 뛰어난 성능을 보였다.
• 세 타워 다중 작업 도메인 적응 프레임워크는 64.8%의 성공률을 달성하여 두 타워 베이스라인(34.8%)을 초월하였으며, 작업 간 및 도메인 간 격차를 메우는 데의 중요성을 입증하였다.
• 개별 네트워크 헤드 대신 일정한 마스크를 사용함으로써 성능이 58.4%에서 64.8%로 향상되었으며, 아키텍처의 일관성이 전이 성능 향상에 기여함을 보여주었다.
• 모델은 실제 테스트에서 예상치 못한 주방 세제기 물체에 일반화되었으며, 분포 이탈에 대한 강건성을 보였다.
• 실제 세계에서의 인스턴스 그립핑 레이블 데이터 없이도, 단지 실제 세계 무차별적 그립핑 데이터만을 사용해 시뮬레이션에서 훈련된 정책을 실제 로봇으로 성공적으로 전이하였다.
• 도메인-대비 손실이 도메인 이탈을 효과적으로 감소시켜, 실제 세계 레이블 데이터 없이도 높은 실제 세계 성능을 달성하는 데 기여하였다.