[論文レビュー] S3K: Self-Supervised Semantic Keypoints for Robotic Manipulation via Multi-View Consistency

Mel Vecerík, Jean-Baptiste Regli+8 more|arXiv (Cornell University)|Sep 30, 2020

Robot Manipulation and Learning参考文献 35被引用数 13

ひとこと要約

S3Kは、マルチビュー整合性を活用して、最小限の人的ラベルでロボット操作における正確な3D意味キーポイントを自己教師付きで学習する手法を提案する。1–5 mmの精度を達成し、幾何的制約を複数のカメラビューにわたって活用することで、オブジェクトやタスクに一般化可能な頑健な文脈認識キーポイント検出器を学習する。この手法により、シミュレーションおよび現実世界の両方でポリシー学習とタスク成功率が顕著に向上する。

ABSTRACT

A robot's ability to act is fundamentally constrained by what it can perceive. Many existing approaches to visual representation learning utilize general-purpose training criteria, e.g. image reconstruction, smoothness in latent space, or usefulness for control, or else make use of large datasets annotated with specific features (bounding boxes, segmentations, etc.). However, both approaches often struggle to capture the fine-detail required for precision tasks on specific objects, e.g. grasping and mating a plug and socket. We argue that these difficulties arise from a lack of geometric structure in these models. In this work we advocate semantic 3D keypoints as a visual representation, and present a semi-supervised training objective that can allow instance or category-level keypoints to be trained to 1-5 millimeter-accuracy with minimal supervision. Furthermore, unlike local texture-based approaches, our model integrates contextual information from a large area and is therefore robust to occlusion, noise, and lack of discernible texture. We demonstrate that this ability to locate semantic keypoints enables high level scripting of human understandable behaviours. Finally we show that these keypoints provide a good way to define reward functions for reinforcement learning and are a good representation for training agents.

研究の動機と目的

• ロボット操作のための既存の視覚的表現に幾何的構造が欠けていることによる精度制限（例：グリッピングやプラグ挿入タスクなど）を是正すること。
• 高価な完全監視や密度の高いアノテーションに依存しないようにするため、3D意味キーポイント検出の自己教師付き学習フレームワークを導入すること。
• オブジェクトカテゴリをまたいで一般化可能で、遮蔽やテクスチャのない表面に対しても耐性があり、高レベルのタスクスクリプトを可能にする頑健なキーポイント検出を実現すること。
• 学習されたキーポイントが、複雑な操作タスクにおける強化学習のための有効な視覚的特徴および報酬信号として機能できることを示すこと。
• 性能がラベル付きデータだけでなく、ラベル付き＋ラベルなしデータの合計データ量に比例して向上することを示し、実世界への展開に実用的でデータ効率の良いアプローチを実現すること。

提案手法

• マルチビュー幾何を自己教師信号として活用：モデルは複数のカメラビューにわたって一貫した3Dキーポイント位置を予測する。
• 120枚の2Dキーポイントアノテーション（学習用）と36枚（チューニング用）を小規模に用い、大規模なラベルなし画像コーパスと組み合わせて3Dキーポイント検出器を訓練する。
• 予測された3Dキーポイントのビュー間整合性を強制するため、微分可能なマルチビュー整合性損失を採用する。
• RGB画像から意味キーポイント（例：プラグ先端、ソケット中心）の3D座標を出力するニューラルネットワークアーキテクチャを採用する。
• キーポイントに基づく監視を強化学習に統合し、キーポイント間距離に基づく密度の高い、幾何的に意味のある報酬関数を定義する。
• 静的シーンにおける時間的整合性を活用したラベル伝播により、完全監視なしに効率的な学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 マルチビュー整合性を、人的ラベルを最小限に抑えた3D意味キーポイント検出器の学習に自己教師信号として利用可能か？
• RQ2 学習されたキーポイントは、オブジェクトカテゴリ、未観測の配置、遮蔽やテクスチャ変動を含む現実世界の状況において、どれほど一般化可能か？
• RQ3 意味キーポイントは、ロボット操作におけるデータ効率の良い強化学習ポリシーの訓練に有効な視覚的特徴として機能可能か？
• RQ4 キーポイント検出器の性能は、ラベル付きデータだけでなく、ラベル付き＋ラベルなしデータの合計データ量に比例して向上するか？
• RQ5 キーポイントに基づく報酬関数は、ケーブル挿入のような複雑な操作タスクにおいて、学習効率と最終的なタスク成功確率を向上できるか？

主な発見

• S3Kモデルは、わずか120枚のラベル付き画像のみで、1–5 mmの精度を達成し、最小限の監視で高い精度を実現した。
• ケーブル挿入タスクにおいて、キーポイントベースのエージェントは3時間の学習で95％以上の成功率に達し、VAEベースのベースライン（60％未満で停滞）を著しく上回った。
• これまでに見られなかったポーズのぬいぐるみオブジェクトに対しても、マルチビュー検出結果から、モデルの一般化能が優れていることが示された。
• 性能はラベル付きデータだけでなく、合計データ量に比例して向上しており、ラベルなしデータが一般化性能と耐性を向上させていることが示された。
• キーポイント検出器はノイズや部分的遮蔽に対して頑健であり、学習中にキーポイントの崩壊による誤検出（偽陽性）は観測されなかった。
• キーポイント表現により、単純な幾何的ルールに基づく人間が理解可能な行動の高レベルスクリプト（例：ぬいぐるみの手で持ち上げる）が可能になった。