[논문 리뷰] VisuoSpatial Foresight for Physical Sequential Fabric Manipulation

Ryan Hoque, Daniel Seita외 7명|arXiv (Cornell University)|2021. 02. 19.

Advanced Vision and Imaging참고 문헌 82인용 수 7

한 줄 요약

이 논문은 시뮬레이션된 RGBD 데이터에서 시각적 동역학을 학습하는 데에 초점을 맞춘 개선된 프레임워크인 VisuoSpatial Foresight 2.0(VSF-2.0)을 제안한다. 이는 코너 편향된 동작 데이터셋을 활용하여 데이터 수집, 동역학 모델링, 비용 함수 및 최적화를 향상시킴으로써, 두 번의 동작만으로도 실제 천 접기 작업에서 90%의 성공률을 달성하는 목표 조건 정책을 가능하게 한다. 이는 이전 연구에서 실제 로봇에서 실패했던 한계를 극복한다.

ABSTRACT

Robotic fabric manipulation has applications in home robotics, textiles, senior care and surgery. Existing fabric manipulation techniques, however, are designed for specific tasks, making it difficult to generalize across different but related tasks. We build upon the Visual Foresight framework to learn fabric dynamics that can be efficiently reused to accomplish different sequential fabric manipulation tasks with a single goal-conditioned policy. We extend our earlier work on VisuoSpatial Foresight (VSF), which learns visual dynamics on domain randomized RGB images and depth maps simultaneously and completely in simulation. In this earlier work, we evaluated VSF on multi-step fabric smoothing and folding tasks against 5 baseline methods in simulation and on the da Vinci Research Kit (dVRK) surgical robot without any demonstrations at train or test time. A key finding was that depth sensing significantly improves performance: RGBD data yields an 80% improvement in fabric folding success rate in simulation over pure RGB data. In this work, we vary 4 components of VSF, including data generation, visual dynamics model, cost function, and optimization procedure. Results suggest that training visual dynamics models using longer, corner-based actions can improve the efficiency of fabric folding by 76% and enable a physical sequential fabric folding task that VSF could not previously perform with 90% reliability. Code, data, videos, and supplementary material are available at https://sites.google.com/view/fabric-vsf/.

연구 동기 및 목표

• 임의의 작업에 특화되지 않은 시연 없이도 순차적 작업 간에 로봇 천 조작 정책을 일반화하는 데에 도전한다.
• 이전의 시각적 예측 방법이 실제 천 조작 작업에서 겪는 한계, 특히 동역학 갭과 높은 데이터 요구량을 극복한다.
• 데이터 생성, 동역학 모델링, 비용 함수, 최적화의 핵심 구성 요소를 수정함으로써 천 접기 작업의 일반화 및 효율성을 향상시킨다.
• 자기지도 시뮬레이션 데이터와 시뮬레이션에서 실제 환경으로의 전이를 통해 복잡한 천 조작 작업을 신뢰성 있게 실행할 수 있도록 한다.
• 코너 편향된, 장거리 끌기 동작이 시각적 동역학 학습과 후속 작업 성능을 크게 향상시킨다는 것을 입증한다.

제안 방법

• 더 긴 끌기 거리와 천의 모서리를 향한 편향을 가진 데이터 수집을 통해 상태공간 커버리지 향상을 위해 9,932개의 에피소드를 포함한 새로운 데이터셋 Fabric-CornerBias를 도입하였다.
• SVG(Vid-MAE) 모델을 동작 조건화된 것으로 확장하여 시뮬레이션에서 더 정확한 시공간 동역학 예측을 가능하게 하였다.
• L2 픽셀 손실을 학습된 비용 함수로 교체함으로써 예측된 이미지와 목표 이미지 간의 보다 정확한 정렬을 통해 계획 정확도를 향상시켰다.
• 모델 예측 제어(MPC) 동안 CMA-ES를 활용하여 계획의 수렴성과 안정성을 향상시켰다.
• 도메인 랜덤라이제이션과 RGBD 관측을 사용하여 실제 환경에 대한 미세조정 없이도 시뮬레이션에서 실제 환경으로의 전이를 가능하게 하였다.
• 색상 마스킹을 통한 실시간 상태 재등록을 활용한 오픈 루프 계획을 적용하여 初기 상태의 불일치를 보정하였다.

실험 결과

연구 질문

• RQ1 데이터 수집 시 코너 편향된 장거리 끌기 동작을 사용하는 것이 천 조작 작업에서 시각적 예측의 성능을 크게 향상시키는가?
• RQ2 동작 조건화된 시각적 동역학 모델은 시뮬레이션에서 실제 환경으로의 천 접기 작업에서 기존의 비디오 예측 모델보다 우수한 성능을 낼 수 있는가?
• RQ3 L2 픽셀 손실을 학습된 비용 함수로 교체하면 천 조작 작업의 계획 효율성과 성공률이 향상되는가?
• RQ4 CMA-ES 최적화는 천 접기 작업의 MPC에서 기존의 표준 방법들(예: CMA-ES 또는 기울기 기반 접근법)보다 우수한 성능을 낼 수 있는가?
• RQ5 새로운 데이터셋과 모델 구성은 이전 VSF 버전으로는 달성하지 못했던 물리적 접기 작업의 실행 가능성을 어느 정도 향상시키는가?

주요 결과

• Fabric-CornerBias 데이터셋으로 훈련한 결과, 이전 방법 대비 시뮬레이션에서 접기 효율성이 76% 향상되었다.
• VSF-2.0는 da Vinci 외과 로봇에서 실제 천 접기 작업에서 90%의 성공률를 달성하였으며, 이는 이전 VSF-1.0 버전에서 실패했던 작업이다.
• 시뮬레이션에서 VSF-2.0는 20次 성공 시험 중 19회에서 평균 2회의 동작로 천을 접었으며, 이는 높은 계획 효율성을 시사한다.
• VSF-2.0에서 깊이 감지 기능을 활용한 결과, 순수 RGB 데이터 대비 시뮬레이션에서 접기 성공률이 80% 향상되었다.
• 코너 편향된 동작과 동작 조건화된 동역학 모델링의 조합은 이전 방법이 동역학 갭과 정밀도가 떨어지는 제어로 실패했던 것과는 달리 신뢰성 있는 물리적 실행을 가능하게 하였다.
• 새로운 데이터셋과 모델 구성은 시간이 지남에 따라 동역학 갭을 감소시켜 장수평 작업에서 누적 오류를 방지하였다.