[논문 리뷰] Learning to Rearrange Deformable Cables, Fabrics, and Bags with Goal-Conditioned Transporter Networks

Daniel Seita, Pete Florence외 5명|arXiv (Cornell University)|2020. 12. 06.

Robot Manipulation and Learning참고 문헌 66인용 수 12

한 줄 요약

이 논문은 케이블, 천, 가방과 같은 1D, 2D, 3D 탄성 물체의 시뮬레이션 및 물리적 테스트를 위한 DeformableRavens 벤치마크를 소개한다. 이미지 기반 목표 조건 조건부 Transporter 네트워크를 제안하여, 기저 진동수 또는 정점 데이터에 의존하지 않고 시각 기반, 엔드 투 엔드 다단계 조작을 학습한다. 이미지 기반 목표 조건 조건부로 케이블 재배치 작업에서 실제 실험에서 70%의 성공률을 달성한다.

ABSTRACT

Rearranging and manipulating deformable objects such as cables, fabrics, and bags is a long-standing challenge in robotic manipulation. The complex dynamics and high-dimensional configuration spaces of deformables, compared to rigid objects, make manipulation difficult not only for multi-step planning, but even for goal specification. Goals cannot be as easily specified as rigid object poses, and may involve complex relative spatial relations such as "place the item inside the bag". In this work, we develop a suite of simulated benchmarks with 1D, 2D, and 3D deformable structures, including tasks that involve image-based goal-conditioning and multi-step deformable manipulation. We propose embedding goal-conditioning into Transporter Networks, a recently proposed model architecture for learning robotic manipulation that rearranges deep features to infer displacements that can represent pick and place actions. In simulation and in physical experiments, we demonstrate that goal-conditioned Transporter Networks enable agents to manipulate deformable structures into flexibly specified configurations without test-time visual anchors for target locations. We also significantly extend prior results using Transporter Networks for manipulating deformable objects by testing on tasks with 2D and 3D deformables. Supplementary material is available at https://berkeleyautomation.github.io/bags/.

연구 동기 및 목표

• 복잡한 고차원 구성 공간과 모호한 목표 사양을 가진 탄성 물체—케이블, 천, 가방—조작의 과제를 해결하기 위해.
• 기저 진동수 또는 정점 정보를 요구하지 않는 일반화 가능한 시각 기반 방법을 개발하여 로봇 에이전트가 탄성 물체의 다단계 조작을 학습할 수 있도록 하기 위해.
• 기존의 1D 탄성 물체에 국한된 Transporter 네트워크 작업을 초월하여 2D 및 3D 탄성 물체 조작 작업에서 엔드 투 엔드 학습을 가능하게 하기 위해.
• 탄성 구조물의 로봇 조작 연구를 가속화하기 위해 표준화된 벤치마크 세트를 제공하기 위해.

제안 방법

• 1D(케이블), 2D(천), 3D(가방) 탄성 물체를 포함한 총 12개의 작업을 수용하는 새로운 시뮬레이션 벤치마크인 DeformableRavens를 제안하며, 이미지 기반 목표 조건 조건부를 포함한다.
• 목표 이미지를 정 politicy 네트워크에 통합하여 최적의 취득 및 배치 동작을 추론하는 목표 조건 조건부 Transporter 네트워크의 변종을 제안한다.
• 모델이 RGB 이미지를 처리하고 목표 관찰과 현재 관찰 간의 특징 이동을 기반으로 동작을 예측하는 시각 기반 엔드 투 엔드 학습 프레임워크를 사용한다.
• 원천 영역(취득 지점)의 특징을 대상 영역(배치 지점)으로 이동시키는 Transporter 네트워크 아키텍처를 활용하여 탄성 물체 재배치에 대한 정밀한 제어를 가능하게 한다.
• 물리적 실험에서 케이블의 국소 탄성선을 기반으로 그립퍼 방향에 대한 히우리스틱을 적용하여 抓握 신뢰도를 향상시킨다.
• 인간의 시연를 사용한 암시적 학습으로 모델을 훈련시키고, 별도의 보류된 시범 데이터 세트를 사용하여 검증하며, 최고 성능을 보인 모델 스크래치를 배포한다.

실험 결과

연구 질문

• RQ1 기저 진동수 또는 정점 데이터에 의존하지 않고 목표 조건 조건부 Transporter 네트워크가 1D, 2D, 3D 탄성 물체의 다단계 조작에 일반화 가능한가?
• RQ2 시뮬레이션에서 훈련된 시각 기반 정책이 탄성 케이블, 천, 가방의 실제 세계 조작으로 얼마나 잘 전이되는가?
• RQ3 이미지 기반 목표 조건 조건부가 명시적 자세 감시 없이도 탄성 물체의 민첩하고 작업 무관 조작을 가능하게 하는가?
• RQ4 가방 조작에서 특히 개방 및 헤엄치기 동안 발생하는 실패 유형은 무엇이며, 이를 어떻게 완화할 수 있는가?
• RQ5 기저 진동수 시뮬레이션 자세 및 정점 정보를 사용하는 기준 모델 대비 시각 기반 모델의 성능은 어떠한가?

주요 결과

• 목표 조건 조건부 Transporter 네트워크는 케이블 재배치 작업에서 10회의 실험 중 7회 성공했으며, 마스크 IoU 임계값 0.25를 충족하여 시뮬레이션에서 현실으로의 효과적인 제로샷 전이를 입증했다.
• 성공적인 각 실험에서 평균적으로 7회의 취득 및 배치 동작이 필요했으며, 이는 10회 동작 제한 내에서 효율적인 정책 실행을 의미한다.
• 실패 사례는 주로 자기 겹침 케이블에서의 취득 오류와 반복 동작을 유도하는 정책 비효율성에 기인하여, 가림막 상황에서의 시각 인식 및 제어 과제를 드러낸다.
• 일부 설정에서 기저 진동수 및 정점 정보를 사용하는 기준 모델보다 성능이 뛰어나, 명시적 상태 감시 없이도 목표 조건 조건부를 통한 시각 기반 학습이 경쟁력이 있음을 보여준다.
• 벤치마크인 DeformableRavens는 1D, 2D, 3D 탄성 물체 전반에 걸친 다양한 조작 과제를 효과적으로 포괄하여 향후 방법의 표준화된 평가를 가능하게 했다.
• 물리적 실험을 통해 히우리스틱 그립퍼 정렬과 함께, 불완전한 그립퍼 사용과 센서 노이즈가 있는 실제 환경 조건에서도 모델이 일반화됨을 확인했다.