[논문 리뷰] Grasp to Act: Dexterous Grasping for Tool Use in Dynamic Settings
Grasp-to-Act (G2A)는 물리 기반의 초기 그립 최적화와 온라인 강화학습 기반 적응을 결합하여 동적인 도구 사용 과제에서 안정적이고 기능적인 그립을 유지하고, 다섯 가지 과제에 걸친 강력한 시뮬레이션-실제 전이를 가능하게 한다.
Achieving robust grasping with dexterous hands remains challenging, especially when manipulation involves dynamic forces such as impacts, torques, and continuous resistance--situations common in real-world tool use. Existing methods largely optimize grasps for static geometric stability and often fail once external forces arise during manipulation. We present Grasp-to-Act, a hybrid system that combines physics-based grasp optimization with reinforcement-learning-based grasp adaptation to maintain stable grasps throughout functional manipulation tasks. Our method synthesizes robust grasp configurations informed by human demonstrations and employs an adaptive controller that residually issues joint corrections to prevent in-hand slip while tracking the object trajectory. Grasp-to-Act enables robust zero-shot sim-to-real transfer across five dynamic tool-use tasks--hammering, sawing, cutting, stirring, and scooping--consistently outperforming baselines. Across simulation and real-world hardware trials with a 16-DoF dexterous hand, our method reduces translational and rotational in-hand slip and achieves the highest task completion rates, demonstrating stable functional grasps under dynamic, contact-rich conditions.
연구 동기 및 목표
- impactos 동적 힘(충격, 토크, 연속 저항) 아래에서도 도구 사용의 견고한 그립을 위한 강인한 그립 구축의 필요성.
- 물리 기반 그립 평가와 강화학습 기반 온라인 적응을 결합한 하이브리드 프레임워크(G2A) 개발.
- 손의 기능성을 고려한 체감보정의 그립 합성을 유도하기 위해 인간 시연을 활용.
- 시뮬레이션과 실제 하드웨어에서 다섯 가지 도구 사용 과제(망치치기, 톱질, 자르기, 저어주기, 떠올리기)로 접근법을 검증.
- 정적 최적화 및 RL 기반 기준선에 비해 안정성 향상, 미끄러짐 감소, 작업 완료도 향상을 입증
제안 방법
- 두 단계의 grasp-to-act 파이프라인: 인간이 시연한 손목 자세를 중심으로 시뮬레이션에서 후보 그립을 생성하고 렌치-공간 교란 아래에서 안정적인 초기 그립을 선택.
- 렌치-공간 안정성 테스트를 12 차원(±x, ±y, ±z 힘과 토크)에서 수행하여 안정성으로 후보 그립을 순위화.
- 인간이 시연한 궤적을 따르면서도 그립 안정성을 유지하기 위해 잔여 관절 토크를 출력하는 강화학습 기반 온라인 적응.
- 현실 세계의 강건함을 높이기 위해 질량, 마찰, 힘 계수의 도메인 무작위화와 간소화된 힘 모델(저항력 및 작용력)을 갖춘 시뮬레이션 환경.
- 정책 πθ는 PPO 기반으로 상태 s(t) (로봇 고유감각, 목표 자세 및 정규화된 시간)를 입력으로 받아 잔여 관절 보정 Δq_t를 출력; 보상은 위치/방향 정렬 및 큰 편차에 대한 페널티를 결합.
- 실제 하드웨어 설정은 UR5 팔에 16-DoF LEAP 핸드를 사용하고, 시연된 궤적에 맞춰 그립을 정렬하기 위한 비전/포즈 추정을 포함.
실험 결과
연구 질문
- RQ1물리 기반 안정성 최적화와 온라인 RL 적응을 결합한 하이브리드 그립 프레임워크가 접촉이 많은 동적 조작 중에 안정적이고 기능적인 그립을 유지할 수 있는가?
- RQ2인간 시연을 활용해 그립 합성을 시드하면 변동이 있는 상황에서의 시뮬레이션-실제 전이 및 소형 강제 야구에도 기능도가 향상되는가?
- RQ3온라인 잔여 손가락 보정이 손 안 미끄러짐 감소와 동적 도구 사용 과제의 성공률 증가에 어떤 영향을 미치는가?
- RQ4다양한 도구 기하학과 큰 외력 및 충격 하에서도 G2A의 성능은 어떠한가?
- RQ5동적 조작하에서의 정밀한 시뮬레이션-실제 전이의 한계는 무엇이며 이를 어떻게 완화할 수 있는가?
주요 결과
- G2A는 망치치기, 톱질, 자르기, 저어주기, 떠올리기 과제에서 강인한 제로샷 시뮬레이션-실제 전이를 달성한다.
- G2A는 실제 기준선에 비해 손 안의 평행 이동 미끄러짐(Et)과 회전 미끄러짐(Eθ)을 지속적으로 감소시키며 높은 작업 완성도 또는 성공률을 달성한다.
- 해석적으로 안정적인 그립에서 시작해 온라인 RL 기반 잔여 보정이 적용되면 RL 단독이나 정적 최적화보다 더 빠른 수렴과 향상된 안정성을 보인다.
- 도전적이고 동적인 과제(예: 반복 충격이 있는 망치질)에서 온라인 적응이 그립 안정성과 작업 성능에 의미 있는 향상을 제공한다.
- 도구 변형에 대한 일반화가 G2A를 사용할 때 강하게 나타나지 않은 기하학에서도 안전한 그립과 높은 작업 성공률을 유지한다.
- 실제 실험에서 G2A는 다섯 가지 과제에서 가장 낮은 평행 이동 및 방향 오차와 가장 높은 작업 완료를 보인다.
이 논문 읽기
누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.
누빈트에서 이 논문 읽기이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.