[論文レビュー] Domain-Invariant Representation Learning for Sim-to-Real Transfer

Ajay Kumar Tanwani|arXiv (Cornell University)|Nov 15, 2020

Domain Adaptation and Few-Shot Learning参考文献 55被引用数 9

ひとこと要約

本稿では、敵対的学習とトリプレット損失を用いて、シミュレーションと現実のドメイン間で周辺分布と条件付き分布を同時に整合化する、ドメイン不変表現学習（DIRL）を提案する。この手法により、シミュレーションから現実への転移性能が向上し、視覚ベースの片付けタスクで91.0%の物体認識精度を達成し、 grasping 精度が86.5%まで向上する。

ABSTRACT

Generating large-scale synthetic data in simulation is a feasible alternative to collecting/labelling real data for training vision-based deep learning models, albeit the modelling inaccuracies do not generalize to the physical world. In this paper, we present a domain-invariant representation learning (DIRL) algorithm to adapt deep models to the physical environment with a small amount of real data. Existing approaches that only mitigate the covariate shift by aligning the marginal distributions across the domains and assume the conditional distributions to be domain-invariant can lead to ambiguous transfer in real scenarios. We propose to jointly align the marginal (input domains) and the conditional (output labels) distributions to mitigate the covariate and the conditional shift across the domains with adversarial learning, and combine it with a triplet distribution loss to make the conditional distributions disjoint in the shared feature space. Experiments on digit domains yield state-of-the-art performance on challenging benchmarks, while sim-to-real transfer of object recognition for vision-based decluttering with a mobile robot improves from 26.8 % to 91.0 %, resulting in 86.5 % grasping accuracy of a wide variety of objects. Code and supplementary details are available at this https URL

研究の動機と目的

• シミュレーションと現実世界の視覚ベース学習における一般化ギャップを解消するため、共変量および条件付きドメインシフトの両方を軽減すること。
• 最小限の現実世界データを用いて、シミュレーションから現実への転移性能を向上させること。
• 耐障害的な現実世界への展開を保証するドメイン不変特徴を学習する表現学習手法を開発すること。
• 合成データを用いて、非構造的環境における高精度なロボット物体認識と grasping を実現すること。

提案手法

• シミュレーションドメインと現実ドメイン間の入力（周辺）分布を統一するための敵対的ドメイン適応を提案する。
• 出力予測におけるドメインシフトを低減するため、敵対的学習を用いた条件付き分布整合化を導入する。
• 共有特徴空間におけるクラスごとの分離性を強制するためにトリプレット損失を採用し、条件付き分布を離散化する。
• 周辺分布と条件付き分布の整合化を、トリプレット損失と統合した一貫した学習目的関数に統合する。
• 両ドメインのドメイン不変特徴を抽出するための共有エンコーダーネットワークを用いる。
• 物理世界の実データとシミュレーションからの合成データを用いて、モデルをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 周辺分布と条件付き分布の共同整合化が、視覚ベースのロボットタスクにおけるシミュレーションから現実への転移を改善できるか？
• RQ2 周辺分布整合化のみに依存する手法と比較して、条件付き分布整合化がモデルの一般化性能に与える影響は何か？
• RQ3 トリプレット損失が共有表現空間における特徴の分離性とドメイン不変性をどの程度向上させるか？
• RQ4 わずかな現実世界データのみを用いて、現実世界のロボット物体認識でどの程度の性能向上が達成できるか？
• RQ5 困難なシミュレーションから現実へのベンチマークにおいて、DIRL は最先端の手法と比較してどのように優れているか？

主な発見

• 提案された DIRL 手法は、現実世界の視覚ベースの片付けタスクで91.0%の物体認識精度を達成し、ベースライン手法を著しく上回る。
• DIRL で訓練されたモデルを用いることで、多様な物体に対する grasping 精度が86.5%まで向上し、耐障害的な現実世界への展開が実証された。
• 困難な数字ドメインベンチマークにおいても、最先端の性能を達成し、ドメインシフト低減の有効性が裏付けられた。
• 周辺分布と条件付き分布の両方の整合化は、周辺分布整合化に依存する手法よりも優れた一般化性能をもたらす。
• 敵対的学習とトリプレット損失の組み合わせにより、共有表現空間におけるより判別性が高くドメイン不変な特徴が得られた。