[논문 리뷰] Manipulation by Feel: Touch-Based Control with Deep Predictive Models

Stephen Tian, Frederik Ebert외 5명|arXiv (Cornell University)|2019. 03. 11.

Advanced Sensor and Energy Harvesting Materials참고 문헌 23인용 수 26

한 줄 요약

이 논문은 수동 감독 없이 접촉이 풍부한 로봇 조작을 가능하게 하기 위해 고해상도 터치 이미지(고무감지 센서 GelSight에서 유래)를 사용하는 학습 기반 제어 프레임워크인 딥 터치 MPC를 제안한다. 비감독 탐색 데이터를 기반으로 학습된 딥 예측 모델을 통해 사용자가 지정한 터치 목표 패턴을 달성하기 위해 동작을 계획하며, 공 굴리기, 막대 재배치, 주사위 굴리기 작업에서 정확도와 성공률 향상이 두드러지게 성과를 냈다.

ABSTRACT

Touch sensing is widely acknowledged to be important for dexterous robotic manipulation, but exploiting tactile sensing for continuous, non-prehensile manipulation is challenging. General purpose control techniques that are able to effectively leverage tactile sensing as well as accurate physics models of contacts and forces remain largely elusive, and it is unclear how to even specify a desired behavior in terms of tactile percepts. In this paper, we take a step towards addressing these issues by combining high-resolution tactile sensing with data-driven modeling using deep neural network dynamics models. We propose deep tactile MPC, a framework for learning to perform tactile servoing from raw tactile sensor inputs, without manual supervision. We show that this method enables a robot equipped with a GelSight-style tactile sensor to manipulate a ball, analog stick, and 20-sided die, learning from unsupervised autonomous interaction and then using the learned tactile predictive model to reposition each object to user-specified configurations, indicated by a goal tactile reading. Videos, visualizations and the code are available here: https://sites.google.com/view/deeptactilempc

연구 동기 및 목표

• 고해상도 터치 피드백을 활용한 민감한 로봇 조작을 가능하게 하며, 특히 시각적 가림 상황에서도 유용하도록 한다.
• 힘 또는 자세 공간이 아닌 터치 관측 공간에서 직접 조작 목표를 지정하는 과제를 해결한다.
• 보상 형태 조정이나 인간이 레이블링한 예시가 필요 없이 비감독 상호작용을 통해 효과적인 제어 정책을 학습한다.
• 딥 다이내믹스 모델과 모델 예측 제어를 융합한 데이터 기반 제어 프레임워크를 개발한다.

제안 방법

• 이 방법은 원시 64×48 터치 이미지에서 학습된 딥 비디오 예측 모델을 사용하여 로봇 동작에 기반해 향후 터치 상태를 예측한다.
• 모델 예측 제어(MPC) 프레임워크는 동작 시퀀스를 샘플링하고 예측된 터치 패턴과 목표 패턴 간의 차이를 최소화하는 것을 선택한다.
• 다이내믹스 모델은 다양한 비감독 상호작용 데이터를 기반으로 자기지도 학습 기반의 대비 학습을 통해 종합적으로 훈련된다.
• 시스템은 고대역폭 터치 피드백을 캡처하기 위해 3축 로봇 암에 특수 제작된 GelSight 스타일의 터치 센서를 사용한다.
• 목표 지정은 직접적으로 터치 관측 공간에서 이루어지며, 목표 압력 중심 또는 이미지 패턴을 원하는 결과로 정의한다.
• 이 방법은 실시간 터치 관측을 사용해 매 시간 단계마다 재계획을 수행하는 폐쇄 루프 방식으로 작동한다.

실험 결과

연구 질문

• RQ1 원시 터치 데이터에서 학습된 딥 예측 모델은 인간 레이블링된 보상이나 예시 없이도 정확한 터치 서보링을 가능하게 할 수 있는가?
• RQ2 시각 피드백이 가려진 상황에서 터치 MPC는 정밀한 물체 재배치에 얼마나 효과적인가?
• RQ3 원시 터치 공간에서의 목표 지정이 전통적인 힘 또는 자세 기반 지정보다 더 자연스럽고 강건한 제어를 이끌 수 있는가?
• RQ4 복잡한 접촉 기반 작업에서 학습된 터치 MPC 정책은 수동 설계된 제어 기반 대비 성능이 어떻게 비교되는가?
• RQ5 비감독 탐색 데이터가 일반 목적의 터치 제어 정책을 학습하는 데 얼마나 충분한가?

주요 결과

• 공 굴리기 작업에서 딥 터치 MPC는 최종 압력 중심과 목표 사이의 중앙값 L2 거리가 1.86으로, 베이스라인(2.97)보다 뚜렷이 우수했다.
• 막대 재배치 작업에서 이 방법은 목표 위치에 도달한 성공률이 93.3%였으며, 이는 베이스라인의 46.6%보다 높았다.
• 주사위 굴리기 작업에서 이 방법은 목표 면을 88.9%의 비율로 도달했으며(30회의 시험 중 26회), 베이스라인의 13.3%에 비해 뚜렷이 높았다.
• 모든 작업에서 L2 거리 및 평균 제곱 오차(MSE) 지표에서 이 방법이 베이스라인보다 우월한 성능을 보였으며, 정량적 평가에서 일관된 우위를 보였다.
• 정성적 결과는 학습된 다이내믹스를 기반으로 한 모델 예측 계획이 복잡한 다단계 접촉 역학(예: 주사위 굴리기)에서도 안정적이고 정확한 재배치를 가능하게 했다.
• 결과적으로, 학습 기반 터치 제어가 복잡한 접촉 역학을 포함한 작업에서 수동 설계된 제어기보다 뛰어난 성능을 낼 수 있으며, 특히 시각 피드백이 제공되지 않는 상황에서 그러한 성능 향상이 두드러진다.