[논문 리뷰] Planning with Spatial-Temporal Abstraction from Point Clouds for Deformable Object Manipulation

Xingyu Lin, Carl Qi외 6명|arXiv (Cornell University)|2022. 10. 27.

Robotic Path Planning Algorithms인용 수 9

한 줄 요약

이 논문은 3D 포인트 클라우드를 사용하여 장기 예측, 변형 가능한 물체 조작을 위한 공간적 및 시간적 추상화를 통합하는 계획 프레임워크인 PASTA를 제안한다. 포인트 클라우드를 잠재 집합 표현으로 인코딩하고, 이 추상화된 표현을 기반으로 스킬 시퀀스를 계획하며, 벤치마크 작업인 도마를 사용한 자르기, 밀기, testbed에서의 반복 조작 등과 같은 복잡한 다도구 작업에서 실제 환경에서 성공을 거두었으며, 평탄한 표현 방식을 능가하고 인간 수준의 성능을 시뮬레이션에서 실제 환경으로의 전이 성능를 확보하였다.

ABSTRACT

Effective planning of long-horizon deformable object manipulation requires suitable abstractions at both the spatial and temporal levels. Previous methods typically either focus on short-horizon tasks or make strong assumptions that full-state information is available, which prevents their use on deformable objects. In this paper, we propose PlAnning with Spatial-Temporal Abstraction (PASTA), which incorporates both spatial abstraction (reasoning about objects and their relations to each other) and temporal abstraction (reasoning over skills instead of low-level actions). Our framework maps high-dimension 3D observations such as point clouds into a set of latent vectors and plans over skill sequences on top of the latent set representation. We show that our method can effectively perform challenging sequential deformable object manipulation tasks in the real world, which require combining multiple tool-use skills such as cutting with a knife, pushing with a pusher, and spreading the dough with a roller.

연구 동기 및 목표

• 완전한 상태 정보가 확보되지 않는 장기 예측, 다도구 변형 가능한 물체 조작 문제를 해결하기 위해.
• 물체의 부분과 관계에 대한 추론을 포함하는 공간적 추상화와, 저수준 액션 대신 스킬에 기반한 계획을 수행하는 시간적 추상화를 통합하기 위해.
• 훈련 중에 관찰하지 못한 더 많은 엔티티와 더 긴 시퀀스를 포함한 새로운 작업에 일반화할 수 있도록 하기 위해.
• 히우리스틱 컨트롤러를 사용하여 시뮬레이션에서 실제 환경으로 효과적으로 전이되는 계획자 개발하기 위해.

제안 방법

• 프레임워크는 3D 관측치를 잠재 벡터 집합으로 매핑하는 포인트 클라우드 인코더를 사용하여 구성적 3D 집합 표현을 형성한다.
• 비지도 학습 방법을 활용해 포인트 클라우드 포인트를 동적으로 객체 부분으로 군집화하고, 변동성 자동인코더를 통해 각 군집을 잠재 벡터로 임베딩한다.
• 학습된 예측기들을 활용해 타당성과 비용을 평가하며, 타당성과 비용 예측기는 하드 음성 마이닝을 통한 대비 학습으로 향상된 계획 정확도를 확보한다.
• 다른 기반의 최적화를 통해 잠재 공간에서 스킬 시퀀스와 보조 목표를 정밀하게 조정한다.
• 시스템은 시뮬레이션에서 훈련되고, 정책 미세조정 없이 히어스틱 컨트롤러를 사용하여 실제 환경으로 전이된다.

실험 결과

연구 질문

• RQ1 공간적 추상화와 시간적 추상화를 통합한 프레임워크가 장기 예측 변형 가능한 물체 조작에 효과적인 계획을 가능하게 하는가?
• RQ2 3D 집합 표현을 통한 공간적 추상화가 평탄한 3D 표현 방식에 비해 일반화 능력과 성능 향상에 기여하는 정도는 어떠한가?
• RQ3 시뮬레이션에서 훈련된 계획자가 히어스틱 컨트롤러를 사용하여 실제 환경 실행으로 일반화할 수 있는 정도는 어느 정도인가?
• RQ4 하드 음성 마이닝과 기울기 기반 계획과 같은 핵심 구성 요소가 총 성공률에 미치는 영향은 어떠한가?

주요 결과

• PASTA는 시뮬레이션에서 CutRearrange 작업에서 83.7%의 성공률을 기록하여 평탄한 3D 표현 기반 기준선보다 유의미하게 뛰어난 성능를 보였다.
• 실제 환경 실험에서 PASTA는 CutRearrange 작업에서 인간 성능을 재현했으며(정규화된 향상도 0.910), 동일 작업에서 Flat3D 기준선(0.351)을 능가하였다.
• 제거 실험 결과, 하드 음성 마이닝을 제거하면 성공률이 반으로 감소하여, 타당성 예측기 학습에 있어 이 요소의 핵심적 역할을 확인하였다.
• 기울기 하강법 없이 또는 샘플링 없이 계획하는 경우 성능가 심각하게 저하되어, 최적화 과정에서 두 구성 요소의 중요성을 확인하였다.
• PASTA는 시뮬레이션에서 6스킬 시퀀스(CRS-Twice)를 성공적으로 실행했으며, 실제 환경에서는 79.5%의 정규화된 향상도를 기록하여 더 장기 예측 작업에 대한 일반화 능력을 입증하였다.
• 프레임워크는 정책 적응 없이도 단지 계획자와 히어스틱 컨트롤러만으로도 복잡한 다도구 작업에 대해 시뮬레이션에서 실제 환경으로의 전이를 가능하게 하였다.