[논문 리뷰] Learning Fine Pinch-Grasp Skills using Tactile Sensing from A Few Real-world Demonstrations

Xiaofeng Mao, Yucheng Xu외 6명|arXiv (Cornell University)|2023. 07. 10.

Interactive and Immersive Displays인용 수 4

한 줄 요약

이 논문은 단일 실세계 인간 시범을 통해 고차원적 촉각 감지와 자가감지 피드백을 활용하여 데이터 효율적인 시범 학습(LfD) 프레임워크를 제안한다. 컨볼루션 오토에인코드를 사용해 촉각 특징을 추출하고, 행동 클로닝 네트워크에서 자가감지 상태와 융합함으로써, 외부 외란이 큰 상황에서도 복원력 있고 접촉 인식이 가능한 집기 동작과 재집기 동작을 실현한다. 이는 촉각 정보가 풍부한 한 번의 시범 학습을 통해 성능이 뛰어난 스킬 전이를 보여준다.

ABSTRACT

Imitation learning for robot dexterous manipulation, especially with a real robot setup, typically requires a large number of demonstrations. In this paper, we present a data-efficient learning from demonstration framework which exploits the use of rich tactile sensing data and achieves fine bimanual pinch grasping. Specifically, we employ a convolutional autoencoder network that can effectively extract and encode high-dimensional tactile information. Further, We develop a framework that achieves efficient multi-sensor fusion for imitation learning, allowing the robot to learn contact-aware sensorimotor skills from demonstrations. Our comparision study against the framework without using encoded tactile features highlighted the effectiveness of incorporating rich contact information, which enabled dexterous bimanual grasping with active contact searching. Extensive experiments demonstrated the robustness of the fine pinch grasp policy directly learned from few-shot demonstration, including grasping of the same object with different initial poses, generalizing to ten unseen new objects, robust and firm grasping against external pushes, as well as contact-aware and reactive re-grasping in case of dropping objects under very large perturbations. Furthermore, the saliency map analysis method is used to describe weight distribution across various modalities during pinch grasping, confirming the effectiveness of our framework at leveraging multimodal information.

연구 동기 및 목표

• 실로봇 시범에서 얻은 풍부한 촉각 피드백을 활용해 단일 데이터로도 정교한 양손 운동 제어를 가능하게 하는 데이터 효율적인 LfD 프레임워크를 개발하는 것.
• 단일 시범으로 정교한 운동 기술을 학습하는 과제를 고차원적 촉각 데이터와 자가감지 상태 정보를 융합함으로써 해결하는 것.
• 비전 중심 또는 저차원 센서 피드백의 한계를 극복하기 위해 부드러운 촉각 센서의 분류 능력을 활용하여 한 번의 학습에서의 성능 향상을 도모하는 것.
• 외부 외란 상황에서도 견고한 집기 동작과 자율적인 재집기 동작을 가능하게 하며, 학습된 감각-운동 정책에서 자연스럽게 유도되는 것.
• 시각화 분석을 통해 각 단계에서 촉각과 자가감지 피드백의 기여도를 분석함으로써, 집기 수행 단계별로 어떻게 가중치가 배분되는지 규명하는 것.

제안 방법

• 부드러운 TacTip 센서에서 유도된 고차원 촉각 이미지를 압축하기 위해 컨볼루션 오토에인코드를 사용하여 저차원 잠재 공간 표현으로 특징을 추출한다.
• 학습된 촉각 특징을 관절 각도, 종단기구 위치 등의 자가감지 상태 특징과 융합하여 다중 모odal 상태 표현을 구성한다.
• 단일 인간 시범에서 유도된 융합된 상태-행동 쌍을 기반으로 행동 클로닝 네트워크를 학습시켜, 시범된 운동 기술을 재현하는 정책을 도출한다.
• 접촉 패턴의 변화(촉각 이미지 차이)를 추가 입력 모odal로 사용하여 동적 접촉 변화에 대한 민감도를 향상시킨다.
• 다양한 집기 단계에서 촉각과 자가감지 모달 간의 상대 기여도를 계산하기 위해 시각화 분석(saliency map analysis)을 적용한다.
• 실로봇 데이터를 기반으로 정책을 종단에서 종단까지 학습시켜 시뮬레이션을 피하고 도메인 랜덤라이제이션 없이도 하드웨어로 직접 전이가 가능하도록 한다.

Figure 1: Autonomous dexterous grasping with soft tactile sensors, including pre-grasp, press, roll-lift, and firm grasp.

실험 결과

연구 질문

• RQ1 단일 실세계 시범을 통해 촉각과 자가감지 피드백만을 사용해 정교한 핀치-그래스 기술을 학습할 수 있는가?
• RQ2 접촉 전, 압착, 굴림-들기, 안정화 단계 등 집기의 각 단계에서 촉각과 자가감지 모달 간의 기여도는 어떻게 다를까?
• RQ3 촉각 감지가 자가감지만을 사용하는 것에 비해 한 번의 학습에서의 성능 향상에 얼마나 기여하는가?
• RQ4 다양한 지름, 질량, 재질을 가진 새로운 물체에 대해 학습된 정책이 일반화되는가?
• RQ5 크고 외부적인 외란(예: 물체의 낙하 또는 밀림) 상황에서 정책이 자율적으로 이를 감지하고 복구할 수 있는가?

주요 결과

• 이 프레임워크는 단일 실세계 시범을 통해 촉각과 자가감지 피드백만을 사용하여 안정적이고 견고한 정교한 핀치-그래스 정책을 성공적으로 학습했다.
• 다양한 지름, 질량, 재질을 가진 10종의 새로운 물체에 대해 일반화되었으며, 동일한 물체 유형 내에서 강력한 제로-샷 일반화 능력을 보였다.
• 큰 외부 힘의 영향을 받더라도 단단하고 안정적인 집기 동작을 유지하여 동적 외란에 대한 내성을 입증했다.
• 물체 낙하 후 자율적으로 성공적인 재집기 동작을 수행했으며, 이는 명시적으로 시범되지 않은 행동이지만 학습된 감각-운동 정책에서 유도된 결과였다.
• 시각화 분석 결과, 촉각 피드백은 압착 및 들어올리기 단계에서 주요 기여를 하였고, 자가감지 피드백은 집기 전 및 안정화 단계에서 운동 조율에 핵심적인 역할을 했다.
• 비교 실험 결과, 촉각 감지가 정교한 기술의 한 번의 학습에서 필수적임을 확인하였으며, 촉각 입력이 없는 기준 방법은 효과적으로 작업을 학습하지 못했다.

Figure 2: Architecture detailing the teleoperation system for demonstrations and the LfD framework.