[論文レビュー] VADRA: Visual Adversarial Domain Randomization and Augmentation.

Rawal Khirodkar, Donghyun Yoo+1 more|arXiv (Cornell University)|Dec 3, 2018

Domain Adaptation and Few-Shot Learning参考文献 48被引用数 11

ひとこと要約

VADRAは、学習者と生成モデルの間のフィードバックループを確立することで、合成データ生成を向上させる敵対的ドメインランダマイゼーションフレームワークを提案する。均一なランダマイゼーションに代えて敵対的最適化を採用することで、CLEVR、Syn2Real、VIRATといったビジョンタスクにおいて、標準的なドメインランダマイゼーションよりも優れた一般化性能を達成する。

ABSTRACT

We address the issue of learning from synthetic domain randomized data effectively. While previous works have showcased domain randomization as an effective learning approach, it lacks in challenging the learner and wastes valuable compute on generating easy examples. This can be attributed to uniform randomization over the rendering parameter distribution. In this work, firstly we provide a theoretical perspective on characteristics of domain randomization and analyze its limitations. As a solution to these limitations, we propose a novel algorithm which closes the loop between the synthetic generative model and the learner in an adversarial fashion. Our framework easily extends to the scenario when there is unlabelled target data available, thus incorporating domain adaptation. We evaluate our method on diverse vision tasks using state-of-the-art simulators for public datasets like CLEVR, Syn2Real, and VIRAT, where we demonstrate that a learner trained using adversarial data generation performs better than using a random data generation strategy.

研究の動機と目的

• 標準的なドメインランダマイゼーションの限界に対処する。これは、計算リソースを無駄に使い、学習者を十分に挑戦できない均一なランダム例を生成するためである。
• 学習者の難易度に基づいて合成データ分布を敵対的に最適化するクローズドループフレームワークを構築する。
• ラベルなしの現実世界データが利用可能な状況にこの手法を拡張し、ドメイン適応と統合可能にする。
• 最先端のシミュレータを用いて、多様なビジョンタスクにおけるモデルの一般化性能とロバスト性を向上させる。

提案手法

• 生成モデルが学習者にとって挑戦的な例を生成するように最適化される敵対的トレーニングループを導入する。
• 生成モデル（合成データ）と学習者（識別方策）の間でミニマックスゲームとしてデータ生成プロセスを定式化し、生成モデルが学習者の損失を最大化することを目的とする。
• 学習者のパフォーマンスフィードバックを活用して、生成モデルがより多様で困難なデータ分布へと導かれるようにする。
• ラベルなしの実世界データを統合できるようにフレームワークを拡張し、合成データと実データの分布を一致させることでドメイン適応を可能にする。
• CLEVR、Syn2Real、VIRAT用のシミュレータを用いて、標準的なビジョンベンチマークにこの手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 敵対的データ生成は、均一なドメインランダマイゼーションと比較して、モデルの一般化性能をどのように向上させるか？
• RQ2 学習者と生成モデルの間のクローズドループ敵対フレームワークは、より効果的な合成学習データを生成できるか？
• RQ3 ラベルなしの実世界データが利用可能な場合、VADRAはどの程度性能を向上させるか？
• RQ4 多様なビジョンタスクにおいて、VADRAは標準的なドメインランダマイゼーションと比較してどのように異なるか？

主な発見

• VADRAは、CLEVR、Syn2Real、VIRATといったビジョンタスクにおいて、標準的なドメインランダマイゼーションを上回り、一般化性能が向上していることを示した。
• 敵対的フィードバックループにより、より困難で多様な合成データが生成され、容易な例の生成数が減少した。
• ラベルなしの実世界データが利用可能な場合、ドメイン適応と効果的に統合され、実世界ベンチマークでのパフォーマンスが向上した。
• 均一なランダマイゼーションで一般的に見られる低難易度の例の生成を回避することで、無駄な計算リソースの浪費を削減した。