[논문 리뷰] Generative Adversarial Active Learning

Jia-Jie Zhu, José Maurício S. Bento|arXiv (Cornell University)|2017. 02. 25.

Machine Learning and Algorithms참고 문헌 22인용 수 130

한 줄 요약

GAAL은 GAN으로 학습을 가속하기 위해 필요에 따라 정보성 학습 쿼리를 합성하며, 때로는 풀 기반 활성학습이나 심지어 완전한 지도 학습 모델을 능가하기도 한다.

ABSTRACT

We propose a new active learning by query synthesis approach using Generative Adversarial Networks (GAN). Different from regular active learning, the resulting algorithm adaptively synthesizes training instances for querying to increase learning speed. We generate queries according to the uncertainty principle, but our idea can work with other active learning principles. We report results from various numerical experiments to demonstrate the effectiveness the proposed approach. In some settings, the proposed algorithm outperforms traditional pool-based approaches. To the best our knowledge, this is the first active learning work using GAN.

연구 동기 및 목표

• 심층 생성 모델을 사용한 쿼리 합성을 가능하게 하여 활성 학습에서 라벨 복잡도 감소를 촉진한다.
• 쿼리하고 라벨링할 학습 인스턴스를 적응적으로 생성하는 프레임워크(GAAL)를 개발한다.
• 이미지 분류 작업에서 이 접근법을 시연하고 풀 기반 및 자체 학습(self-taught learning) 기반과 비교한다.
• 분포 이동하에서의 GAAL 동작을 조사하고 다양성 및 탐색 전략과 같은 잠재적 향상을 탐구한다.

제안 방법

• 라벨이 없는 데이터에서 GAN을 학습시켜 생성기 G와 판별기 D를 학습한다.
• 작은 라벨링 세트를 초기화하고 현재 라벨링 데이터에 대해 선형 SVM 분류기를 학습한다.
• 각 반복에서 min_z ||W^T phi(G(z)) + b|| 를 풀어 샘플을 결정 경계로 밀어 쿼리를 생성한다.
• G(z) 샘플에 대한 인간/오라클의 라벨을 질의하고 이를 학습 세트에 추가한 후 분류기를 재학습한다.
• 선택적으로 phi를 CNN 특징 추출기로 대체하여 엔드 투 엔드 딥러닝 파이프라인을 가능하게 한다.
• 다양성을 추가하거나 다른 활성 학습 기준을 사용하는 등 확장 가능성을 논의한다.

실험 결과

연구 질문

• RQ1 GAAL이 풀 기반 활성 학습과 비교하여 학습 효율성을 향상시키는 정보성 합성 쿼리를 생성할 수 있는가?
• RQ2 제한된 라벨 예산 하에서 GAAL은 표준 GAN 기반 데이터 증강이나 무작위 샘플링과 어떻게 비교되는가?
• RQ3 탐색이나 다양성의 도입이 GAAL의 성능 및 학습 데이터와 테스트 데이터 간의 분포 차이에 대한 강인성을 향상시키는가?

주요 결과

• GAAL은 특정 설정에서 완전한 지도 학습 및 일부 풀 기반 전략보다 더 나은 정확도를 달성할 수 있다.
• MNIST→USPS 전이 실험에서 GAAL은 다수의 실행에서 SVM 활성 및 무작위 샘플링 기준선을 능가했다.
• 동일한 학습/테스트 분포의 MNIST에서 GAAL의 정확도는 초기에는 지도 학습을 상회할 수 있지만 약 100개 샘플 이후에는 경계에 근접한 유사한 샘플을 생성하여 감소할 수 있다.
• CIFAR-10 이진 태스크에서 라벨러는 더 낮은 품질의 생성 샘플을 더 많이 관찰했으며, 고차원 데이터에서의 확장성 문제를 부각시켰다.
• 혼합된 exploitation-탐색 방식(주기적 무작위 샘플링)은 GAAL 또는 무작위 샘플링만 사용하는 것보다 우수할 수 있으며 다양성의 이점을 시사한다.
• GAAL은 경쟁력 있는 성능을 보여주며 향후 GAN 기반 활성 학습 연구에 정보를 제공하고, 자체 학습(self-taught learning)과의 가능성 있는 통합 가능성을 시사한다.