[논문 리뷰] VADRA: Visual Adversarial Domain Randomization and Augmentation.

Rawal Khirodkar, Donghyun Yoo외 1명|arXiv (Cornell University)|2018. 12. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 48인용 수 11

한 줄 요약

VADRA는 학습자와 생성 모델 간의 피드백 루프를 통해 합성 데이터 생성을 향상시키는 적대적 도메인 랜덤화 프레임워크를 제안한다. 이는 균일한 랜덤화를 적대적 최적화로 대체함으로써 성능을 향상시킨다. 이 방법은 표준 도메인 랜덤화보다 CLEVR, Syn2Real, VIRAT와 같은 시각 작업에서 더 나은 일반화 성능을 보인다.

ABSTRACT

We address the issue of learning from synthetic domain randomized data effectively. While previous works have showcased domain randomization as an effective learning approach, it lacks in challenging the learner and wastes valuable compute on generating easy examples. This can be attributed to uniform randomization over the rendering parameter distribution. In this work, firstly we provide a theoretical perspective on characteristics of domain randomization and analyze its limitations. As a solution to these limitations, we propose a novel algorithm which closes the loop between the synthetic generative model and the learner in an adversarial fashion. Our framework easily extends to the scenario when there is unlabelled target data available, thus incorporating domain adaptation. We evaluate our method on diverse vision tasks using state-of-the-art simulators for public datasets like CLEVR, Syn2Real, and VIRAT, where we demonstrate that a learner trained using adversarial data generation performs better than using a random data generation strategy.

연구 동기 및 목표

• 표준 도메인 랜덤화의 한계를 해결하기 위해, 이는 계산 자원을 낭비하고 학습자를 도전하지 못하는 간단한 균일한 랜덤 예제를 생성하기 때문이다.
• 학습자의 어려움에 기반해 합성 데이터 분포를 적대적으로 최적화하는 폐쇄 루프 프레임워크를 개발하기 위해.
• 라벨이 없는 실세계 데이터가 존재하는 시나리오로 방법을 확장하여 도메인 적응과 통합할 수 있도록 하기 위해.
• 최첨단 시뮬레이터를 사용하여 다양한 시각 작업에서 모델의 일반화와 강건성을 향상시키기 위해.

제안 방법

• 생성 모델이 학습자에게 도전이 되는 예제를 생성하도록 최적화하는 적대적 훈련 루프를 도입한다.
• 생성 모델(합성 데이터)과 학습자(판별 정책) 사이의 최소-최대 게임으로 데이터 생성 과정을 수립하며, 생성 모델은 학습자의 손실을 최대화하도록 목표를 설정한다.
• 학습자의 성능 피드백을 활용하여 생성 모델이 더 다양하고 도전적인 데이터 분포로 향하도록 이끈다.
• 라벨이 없는 실세계 데이터를 통합하여 도메인 적응이 가능하도록 프레임워크를 확장한다. 이를 통해 합성 데이터와 실세계 데이터의 분포를 일치시킨다.
• CLEVR, Syn2Real, VIRAT 등의 시뮬레이터를 사용하여 표준 시각 벤치마크에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 적대적 데이터 생성은 균일한 도메인 랜덤화에 비해 모델의 일반화 성능을 어떻게 향상시키는가?
• RQ2 학습자와 생성 모델 간의 폐쇄 루프 적대적 프레임워크는 더 효과적인 합성 훈련 데이터를 생성할 수 있는가?
• RQ3 라벨이 없는 실세계 데이터가 가용할 경우 VADRA는 성능을 얼마나 향상시키는가?
• RQ4 다양한 시각 작업에서 VADRA는 표준 도메인 랜덤화와 비교해 어떻게 성능을 냈는가?

주요 결과

• VADRA는 CLEVR, Syn2Real, VIRAT와 같은 시각 작업에서 표준 도메인 랜덤화를 능가하며, 더 나은 일반화 성능을 입증한다.
• 적대적 피드백 루프는 더 도전적이고 다양한 합성 데이터를 생성하여 쉽게 생성되는 예제의 수를 줄인다.
• 라벨이 없는 실세계 데이터가 가용할 경우 도메인 적응과 효과적으로 통합되어 실세계 벤치마크에서 성능 향상을 이룬다.
• 균일한 랜덤화에서 흔히 발생하는 낮은 난이도의 예제 생성을 방지함으로써 낭비되는 계산 자원을 줄인다.