[논문 리뷰] One-shot Imitation Learning via Interaction Warping

Ondřej Bíža, Skye Thompson외 8명|arXiv (Cornell University)|2023. 06. 21.

Robot Manipulation and LearningEngineering인용 수 3

한 줄 요약

이 논문은 단일 시연를 통해 3D 공간에서 다양한 물체 형태와 자세에 일반화할 수 있는 SE(3) 로봇 조작을 위한 일회성 암기 학습 방법인 상호작용 왜곡(Interaction Warping)을 제안한다. 이 방법은 공명 점 이동(Coherent Point Drift, CPD)을 사용해 물체의 형태와 상호작용 키포인트를 새로운 인스턴스에 맞추어 왜곡한다. 단일 시연만으로도 시뮬레이션과 실제 환경에서 다양한 물체 형태와 자세에 대해 성공적인 일반화를 달성하며, 이전 방법들에 비해 성공률과 데이터 효율성에서 뛰어난 성능을 보인다.

ABSTRACT

Imitation learning of robot policies from few demonstrations is crucial in open-ended applications. We propose a new method, Interaction Warping, for learning SE(3) robotic manipulation policies from a single demonstration. We infer the 3D mesh of each object in the environment using shape warping, a technique for aligning point clouds across object instances. Then, we represent manipulation actions as keypoints on objects, which can be warped with the shape of the object. We show successful one-shot imitation learning on three simulated and real-world object re-arrangement tasks. We also demonstrate the ability of our method to predict object meshes and robot grasps in the wild.

연구 동기 및 목표

• 단일 시연만으로도 3D 공간에서 새로운 물체 인스턴스와 임의의 자세에 일반화할 수 있는 로봇 조작 정책의 도전 과제를 해결한다.
• 기존의 키포인트 기반 방법들이 광범위한 사전 훈련이 필요하거나 기술자 기반 기반 기술 학습을 위해 신경망에 의존하는 한계를 극복한다.
• 비탄성 점군 정렬을 통해 형태, 자세, 상호작용 점을 동시에 추론함으로써 다양한 물체 유형 간 정책 전이의 강건성을 향상시킨다.
• 본 방법의 효과성을 시뮬레이션 및 실제 환경의 로봇 조작 작업에서 입증한다. 이는 비구조적 환경에서의 물체 재배치 및 그립 예측을 포함한다.

제안 방법

• 단일 시연에서 유도된 표준 물체 모델에 대해 새로운 동일 카테고리의 물체 인스턴스를 비탄성적으로 정렬하기 위해 공명 점 이동(Coherent Point Drift, CPD)을 사용한다.
• 조작 동작을 물체 표면의 키포인트로 표현하며, 물체 형태와 함께 이 키포인트도 동일하게 왜곡하여 공간적 및 의미적 일관성을 유지한다.
• CPD를 사용해 비정상적인 물체 인스턴스의 3D 메시를 유추하기 위해 형태 보완 모델을 훈련한다. 이는 표준 형태에 대응하여 정렬함으로써 이루어진다.
• 동일한 CPD 변환을 사용해 물체 메시와 상호작용 키포인트를 모두 왜곡함으로써 표준 작업 정책을 새로운 장면으로 투영한다.
• 오픈 어휘 인식 파ip라인(예: Detic 및 Segment Anything)과 결합하여 RGB-D 이미지에서 물체를 검출하고 분할하며 메시를 재구성한다.
• 왜곡된 메시와 키포인트를 사용해 충돌 인식 운동 계획을 수행하고, 비구조적 실제 환경에서의 로봇 그립 예측을 수행한다.

실험 결과

연구 질문

• RQ1 단일 시연로도 3D 조작 작업에서 형태와 자세가 임의로 변한 새로운 물체 인스턴스에 일반화할 수 있는가?
• RQ2 CPD를 통한 형태 왜곡이 일회성 암기 학습에서 데이터 효율성과 성공률 측면에서 신경망 기반 기술 학습에 비해 어떻게 비교되는가?
• RQ3 상호작용 왜곡은 실제 환경의 혼잡한 환경에서 볼 수 없는 물체에 대해 시연된 그립을 얼마나 잘 일반화할 수 있는가?
• RQ4 사전 분할 또는 사전 레이블링된 데이터가 필요 없이 원시 RGB-D 이미지에서 정확한 3D 메시와 로봇 그립을 예측할 수 있는가?

주요 결과

• 상호작용 왜곡(IW)은 시뮬레이션 및 실제 환경에서 단일 시연만으로도 물체 재배치 작업(머그잔 위 나무, bowel 위 머그잔, 병 상자 안에 넣기)에서 90% 이상의 성공률을 달성한다.
• R-NDF 및 TAX-Pose는 비교적 유사한 성공률에 도달하기 위해 5개 이상의 시범이 필요하며, 다수의 시범이 주어져도 종종 80%를 초과하지 못하는 반면, 본 방법은 이에 비해 뛰어난 성능을 보인다.
• IW는 형태 변화가 심한 새로운 물체 인스턴스, 예를 들어 다른 형태의 머그잔과 나무 등에도 성공적으로 일반화되며, 실제 환경 설정에서의 자세 변화에도 대처할 수 있다.
• 노이즈가 많고 부분적으로 가려진 점군에 대해서도 강건하며, 부분적이고 저품질의 점군으로 인해 자주 충돌 실패를 겪는 R-NDF보다도 실제 시험에서 뛰어난 성능을 보였다.
• 오픈 어휘 검출 및 분할과 형태 왜곡을 결합함으로써 실제 환경에서의 그립 예측이 가능해졌으며, 단일 RGB-D 이미지에서 정확한 메시 및 그립 예측이 가능해졌다.
• 형태와 자세의 동시 추론은 RTX 2080 Ti GPU에서 1개의 물체당 약 25초가 소요되나, 본 방법은 완전히 미분 가능하며 향후 신경망 암호화를 통해 가속화될 수 있다.