[논문 리뷰] KETO: Learning Keypoint Representations for Tool Manipulation

Zengyi Qin, Kuan Fang외 3명|arXiv (Cornell University)|2019. 10. 26.

Robot Manipulation and Learning참고 문헌 58인용 수 10

한 줄 요약

Keto는 3차원 포인트 클라우드에서 도구의 작업별 키포인트 표현을 자기지도 학습 프레임워크를 통해 학습함으로써, 인간의 레이블이 없는 키포인트를 사용하지 않고도 효율적이고 해석 가능한 로봇 조작을 가능하게 한다. 이 방법은 힘주기, 밀기, 도착하기 세 가지 도구 사용 작업 전반에서 엔드 투 엔드 및 하드코딩된 기준 방법보다 작업 성공률에서 뛰어난 성능을 보이며, 로봇 상호작용 데이터로부터 딥러닝을 통해 그립, 기능, 영향 키포인트를 동시에 예측한다.

ABSTRACT

We aim to develop an algorithm for robots to manipulate novel objects as tools for completing different task goals. An efficient and informative representation would facilitate the effectiveness and generalization of such algorithms. For this purpose, we present KETO, a framework of learning keypoint representations of tool-based manipulation. For each task, a set of task-specific keypoints is jointly predicted from 3D point clouds of the tool object by a deep neural network. These keypoints offer a concise and informative description of the object to determine grasps and subsequent manipulation actions. The model is learned from self-supervised robot interactions in the task environment without the need for explicit human annotations. We evaluate our framework in three manipulation tasks with tool use. Our model consistently outperforms state-of-the-art methods in terms of task success rates. Qualitative results of keypoint prediction and tool generation are shown to visualize the learned representations.

연구 동기 및 목표

• 효율적인 로봇 제어를 지원하는 작고, 해석 가능하고, 일반화 가능한 도구 조작 표현을 개발하기 위해.
• 비용이 많이 드는 인간 레이블이 필요한 3차원 키포인트에 의존하지 않도록, 자기지도 학습을 통한 로봇 상호작용을 통해 키포인트 표현을 학습하기 위해.
• 공차가 많은 도구 조작 작업에서의 일반화 능력과 성능을 향상시키기 위해 통합 키포인트 예측 프레임워크를 사용하기 위해.
• 예측된 키포인트를 기반으로 새로운 도구 형상을 조합하는 기초 자료로 활용함으로써 역도구 생성을 가능하게 하기 위해.
• 모델이 시뮬레이션 및 실제 세계 환경 모두에서 키포인트 기반 표현의 효과성을 입증하기 위해.

제안 방법

• 작업별 키포인트 생성 네트워크는 도구 물체의 3차원 포인트 클라우드 관측치로부터 그립, 기능, 영향 키포인트를 동시에 예측한다.
• 키포인트 예측은 인간 레이블이 없는 진단 기반의 자기지도 학습을 통해 작업 환경에서의 시행착오 상호작용을 통해 훈련된다.
• 프레임워크는 예측된 도구 및 환경 키포인트를 기반으로 그립과 조작 궤적을 생성하는 동작 최적화기를 사용한다.
• 다양분 가능 평가 네트워크를 통해 예측된 키포인트 구성에 대한 신뢰도를 극대화하기 위해 물체 부분의 자세를 최적화함으로써 역도구 생성을 가능하게 한다.
• 모델은 유일하게 시뮬레이션 데이터로 훈련되며, 키파드 카메라에서의 RGB-D 관측치를 사용하여 실제 세계에 적용 가능하게 일반화된다.
• 랜덤으로 선택된 물체 부분의 자세 파라미터(이동 및 회전)에 대해 기울기 상승을 적용하여 키포인트에서 최적의 도구 형상을 구성한다.

실험 결과

연구 질문

• RQ1 로봇 상호작용에서 자기지도 학습이 도구 조작을 위한 효과적이고 해석 가능한 키포인트 표현을 생성할 수 있는가?
• RQ2 통합 키포인트 예측 프레임워크는 개별 키포인트 예측과 비교해 조작 성능에서 어떤 차이를 보이는가?
• RQ3 하나의 도구 유형(예: 망치)에서 훈련된 모델이 알려지지 않은 도구 유형(예: 비망치)으로의 일반화 능력은 어느 정도인가?
• RQ4 학습된 키포인트 표현이 임의의 부분으로부터 새로운 기능성 있는 도구를 생성하는 역문제를 지원할 수 있는가?
• RQ5 엔드 투 엔드 시각-운동 정책과 비교해 키포인트 표현을 사용할 경우 작업 성공률이 향상되는가?

주요 결과

• Keto는 힘주기, 밀기, 도착하기 세 가지 작업 전반에서 엔드 투 엔드 딥 강화학습 및 하드코딩된 키포인트 기준 방법보다 일관되게 높은 작업 성공률을 달성한다.
• 모델은 알려지지 않은 도구 유형으로의 일반화 능력이 뛰어나, 훈련 시 망치 유형만 사용하고도 비망치 도구에 대해서도 뛰어난 성능을 보인다.
• 정성적 결과에서는 예측된 키포인트가 의미적으로 유의미하며, 불규칙한 도구 형상, 특히 RGB-D 카메라로 촬영한 실제 세계 물체에도 적응하는 것으로 나타났다.
• 프레임워크는 역도구 생성을 가능하게 한다: 키포인트와 랜덤 부분을 제공받아 기울기 기반 최적화를 통해 타당하고 기능적인 도구 형상을 합성할 수 있다.
• 모델은 시뮬레이션에서 실제 세계로의 전이가 효과적으로 이루어지며, 오직 시뮬레이션 데이터로만 훈련된 상태에서도 도메인 이동에 대해 강건함을 입증했다.
• 통합 키포인트 예측을 사용할 경우 개별 키포인트 예측보다 예측 정확도와 후속 작업 성능이 향상됨을 확인했다.