[論文レビュー] Surgical Robot Transformer (SRT): Imitation Learning for Surgical Tasks

Ji Woong Kim, Tony Z. Zhao+5 more|arXiv (Cornell University)|Jul 17, 2024

Soft Robotics and Applications被引用数 6

ひとこと要約

この論文は Surgical Robot Transformer (SRT) を提案します。da Vinci システムのための模倣学習アプローチで、相対アクション表現を用いて前方運動学の不正確さを克服し、組織操作、針の扱い、結び目結びを成功させ、リストウォッチカメラが性能と一般化を向上させます。

ABSTRACT

We explore whether surgical manipulation tasks can be learned on the da Vinci robot via imitation learning. However, the da Vinci system presents unique challenges which hinder straight-forward implementation of imitation learning. Notably, its forward kinematics is inconsistent due to imprecise joint measurements, and naively training a policy using such approximate kinematics data often leads to task failure. To overcome this limitation, we introduce a relative action formulation which enables successful policy training and deployment using its approximate kinematics data. A promising outcome of this approach is that the large repository of clinical data, which contains approximate kinematics, may be directly utilized for robot learning without further corrections. We demonstrate our findings through successful execution of three fundamental surgical tasks, including tissue manipulation, needle handling, and knot-tying.

研究の動機と目的

• 臨床収集データから得られる大規模でおおよその運動学データを用いた外科的操作のスケーラブルな模倣学習を動機づける。
• da Vinci の前方運動学の不正確さがエンドツーエンド模倣学習を妨げる点に対処する。
• 運動学エラーに強いアクション表現を提案し、それらがタスク性能と一般化に与える影響を評価する。
• 手首カメラがポリシー学習と未知シナリオへの転移を改善する役割を探る。

提案手法

• ポリシー出力のための3つのアクション表現を比較する：カメラ中心（絶対末端実効ポーズ）、ツール中心（現在の末端実効フレームに対する相対移動）、ハイブリッド相対（内視鏡先端に対する平行移動、末端実効に対する回転）。
• ground-truth運動学を入力として使用せず、4視点（内視鏡＋手首）の画像からポリシーを学習するために、アクションチャンク化とトランスフォーマー（ACT）および拡散ポリシーアプローチを用いた模倣学習フレームワークを使用する。
• 画像観察からデルタポーズと顎角度を予測するポリシーを、補正済み運動学の代わりに近似運動学データを活用して学習する。
• ツールの再組立、セットアップ結合の移動など、構成変更に対する頑健性を示し、未知の組織や3D表面への一般化を評価する。
• 手首カメラの影響を、タスク性能と深度推定課題への頑健性に関するアブレーション（有り／無し）で評価する。

実験結果

リサーチクエスチョン

• RQ1 模倣学習は、臨床的に収集された近似的な運動学データを用いて、da Vinci システムの難易度の高い外科操作タスクで高い成功率を達成できるか。
• RQ2 相対的な運動（ツール中心またはハイブリッド相対）は、dVRK の政策学習において絶対前方運動学より頑健で一貫しているか。
• RQ3 手首カメラは外科タスクのポリシー性能と一般化を意味のある形で改善するか。
• RQ4 未知の組織や背景などの新規シナリオへ、学習されたポリシーはどれくらい一般化できるか。
• RQ5 アクション表現の選択対入力モダリティの相対的寄与は、タスクの成功にどの程度影響するか。

主な発見

• 相対アクション表現（ツール中心およびハイブリッド相対）は、カメラ中心の絶対ポーズ表現よりタスクの成功率が高く、組織のリフト、針の拾取と手渡し、および結び目結びの各段階で有意に優れる。
• 追跡実験は、ロボットの構成変更時に相対アクションがカメラ中心アクションより一貫性が高いことを示し、前方運動学の誤差に対する頑健性を示唆する。
• 手首カメラはポリシーの性能を大幅に改善し、特に針の手渡しなど深度が critical な局面での改善と、視覚的文脈の多様性への一般化を向上させる。
• ハイブリット相対アクションと手首カメラを用いたポリシーが、試験した構成とタスクの中で最良の性能を達成する。
• 未知の組織タイプや背景（例：豚肉、鶏肉、未知の3D縫合パッド）で定性的な成功を示す一般化実験は、前臨床拡張の可能性を示唆する。
• アブレーション結果は、複雑な多腕タスクで運動を固定基準系に基づいて安定させる翻訳の基礎づけの重要性を強調する。