[논문 리뷰] Surgical Robot Transformer (SRT): Imitation Learning for Surgical Tasks

Ji Woong Kim, Tony Z. Zhao외 5명|arXiv (Cornell University)|2024. 07. 17.

Soft Robotics and Applications인용 수 6

한 줄 요약

논문은 Surgical Robot Transformer (SRT)를 제시하며, 상대 행동 표현을 이용해 정확하지 않은 전방 운동학을 극복하고 조직 조작, 바늘 취급, 매듭 묶기를 가능하게 하는 다빈치 시스템용 모방학습 접근법을 제시합니다. 핸드 wrist 카메라가 성능과 일반화 능력을 향상시킵니다.

ABSTRACT

We explore whether surgical manipulation tasks can be learned on the da Vinci robot via imitation learning. However, the da Vinci system presents unique challenges which hinder straight-forward implementation of imitation learning. Notably, its forward kinematics is inconsistent due to imprecise joint measurements, and naively training a policy using such approximate kinematics data often leads to task failure. To overcome this limitation, we introduce a relative action formulation which enables successful policy training and deployment using its approximate kinematics data. A promising outcome of this approach is that the large repository of clinical data, which contains approximate kinematics, may be directly utilized for robot learning without further corrections. We demonstrate our findings through successful execution of three fundamental surgical tasks, including tissue manipulation, needle handling, and knot-tying.

연구 동기 및 목표

• 임상적으로 수집된 다빈치 시연의 대규모의 근사적 운동학 데이터 를 이용한 수술 조작의 확장 가능한 모방 학습을 동기화합니다.
• 다빈치의 전방-운동학 정확도 문제로 인해 엔드-투-엔드 모방 학습이 방해받는 문제를 다룹니다.
• 운동학 오차에 강건한 행동 표현을 제안하고, 이들의 작업 성능과 일반화에 대한 영향을 평가합니다.
• 정책 학습과 unseen 시나리오로의 전이에 있어 손목 카메라의 역할을 탐구합니다.

제안 방법

• 정책 출력에 대해 세 가지 행동 표현(카메라 중심, 절대 엔드-이펙터 자세; 도구 중심, 현재 엔드-이펙터 프레임에 대한 상대 운동; 하이브리드-상대, 엔도스코프 끝점에 대한 변환 및 엔드-이펙터에 대한 회전)을 비교합니다.
• Ground-truth 운동학을 입력으로 사용하지 않고, 네 시야(내시경 + 손목) 이미지에서 정책을 학습하기 위한 모방 학습 프레임워크로 Action Chunking과 transformers(ACT) 및 diffusion-policy 방식을 사용합니다.
• 이미지 관측으로부터 델타 포즈와 조개턱 각도 예측 정책을 학습하며, 보정된 운동학 대신 근사 운동학 데이터를 활용합니다.
• 구성 변경(도구 재조립, 설치 관절 이동)에 대한 강건성을 시연하고, unseen 조직과 3D 표면에 대한 일반화를 평가합니다.
• 손목 카메라의 영향력을 제거 실험(ablation)으로 평가하며, 손목 카메라 유무에 따른 작업 성능과 깊이 추정 이슈에 대한 강건성을 확인합니다.

실험 결과

연구 질문

• RQ1 근사된 운동학 데이터의 활용으로 다빈치 시스템에서 도전적인 수술 조작 과제에서 모방 학습이 높은 성공률을 달성할 수 있는가?
• RQ2 dVRK에서 정책 학습에 대해 상대 운동(도구 중심 또는 하이브리드-상대)이 절대적 전방 운동학보다 더 강건하고 일관된가?
• RQ3 손목 카메라가 수술 과제에서 정책 성능과 일반화를 실질적으로 개선하는가?
• RQ4 학습된 정책이 unseen 조직이나 배경과 같은 새로운 시나리오에 얼마나 잘 일반화되는가?
• RQ5 정책 성공에 있어 행동 표현 선택의 상대적 기여도와 입력 모듈(입력 modalities)의 기여도는 어떤가?

주요 결과

• 상대 행동 표현(도구 중심 및 하이브리드-상대)은 조직 리프팅, 바늘 포획 및 인도, 매듭 묶기 등에서 카메라 중심 절대 자세 표현보다 더 높은 작업 성공률을 보인다.
• 추적 실험은 로봇 구성 변경 시 상대 행동이 카메라 중심 행동보다 더 일관되며, 전방-운동학 오차에 대한 강건성을 시사한다.
• 손목 카메라는 특히 바늘 인도와 같은 깊이가 중요한 단계에서 정책 성능을 크게 향상시키고 다양한 시각 맥락으로의 일반화를 향상시킨다.
• 손목 카메라를 갖춘 하이브리드-상대 행동이 실험된 구성 및 과제 중에서 최고 성능을 달성한다.
• 모델 일반화 실험에서 unseen 조직 유형과 배경에 대해 질적 성공이 나타나며(예: 돼지고기, 닭고기, unseen 3D suture pad), 전임상 확장의 가능성을 시사한다.
• 절단 실험은 복합 다작업에서 움직임을 고정 기준 프레임에 접지하는 것이 중요함을 강조한다.