[논문 리뷰] Deep Active Learning: Unified and Principled Method for Query and Training

Changjian Shui, Fan Zhou외 2명|arXiv (Cornell University)|2019. 11. 20.

Machine Learning and Algorithms인용 수 42

한 줄 요약

이 논문은 WAAL을 소개한다, deep batch active learning에서 querying과 training을 모두 다루는 Wasserstein 기반의 통합 프레임워크로, 분포 매칭과 적대적 학습을 결합하고 불확실성-다양성 질의 전략을 도입하여 성능과 효율성을 향상킨다.

ABSTRACT

In this paper, we are proposing a unified and principled method for both the querying and training processes in deep batch active learning. We are providing theoretical insights from the intuition of modeling the interactive procedure in active learning as distribution matching, by adopting the Wasserstein distance. As a consequence, we derived a new training loss from the theoretical analysis, which is decomposed into optimizing deep neural network parameters and batch query selection through alternative optimization. In addition, the loss for training a deep neural network is naturally formulated as a min-max optimization problem through leveraging the unlabeled data information. Moreover, the proposed principles also indicate an explicit uncertainty-diversity trade-off in the query batch selection. Finally, we evaluate our proposed method on different benchmarks, consistently showing better empirical performances and a better time-efficient query strategy compared to the baselines.

연구 동기 및 목표

• 레이블링 필요를 줄이면서 일반화성을 향상시키기 위해 deep batch active learning의 동기를 부여한다.
• 분포 매칭을 통해 질의 선택과 모델 학습을 통일하는 원칙적 프레임워크를 제공한다.
• 이 설정에서 Wasserstein 거리가 H-발산보다 다양성을 더 잘 포착함을 보인다.
• 비지도 데이터의 정보를 활용하는 크리틱 네트워크를 통해 최소-최대 학습 objective를 도출한다.
• 배치 질의에서 불확실성과 다양성을 결합하는 실용적 알고리즘을 개발한다.

제안 방법

• 활성 학습 루프를 라벨링된 데이터와 비라벨링 데이터 간의 분포 매칭으로 모델링한다. Wasserstein 거리 (W1)를 사용.
• 훈련 손실은 DNN 매개변수 학습과 질의 배치 선택을 대안적(min-max) 최적화를 통해 분리해 도출한다.
• 두 단계 최적화(1- Lipschitz의 크리틱 g와 특징 추출기 f로 Wasserstein 적대적 손실로 DNN 학습, 그리고 불확실성-다양성 기준으로 배치 질의)로 구성한다.
• Kantorovich-Rubinstein 이중성(dual)을 사용해 Wasserstein 거리를 구현하고 1-Lipschitz인 크리틱 g와 특징 추출기 f를 사용한다.
• 불확실성-based 점수(최악의 경우 또는 균일 불확실성)와 Wasserstein 거리 하의 운송 비용으로 측정되는 다양성 항을 결합한 두 항의 질의 손실을 제안한다.
• 라벨링/비라벨링 데이터의 불균형을 처리하기 위한 중복 트릭과 1-Lipschitz성을 강제하는 그래디언트 패널티를 가진 크리틱을 도입한다.

실험 결과

연구 질문

• RQ1 깊은 batch active learning을 라벨링된 데이터와 비라벨링 데이터 간의 원칙적 분포 매칭 문제로 형상화할 수 있는가?
• RQ2 Wasserstein 거리가 질의 배치 선택에 있어 H-발산보다 더 나은 다양성 척도인가?
• RQ3 비라벨링 데이터를 활용하는 통합 최소-최대 학습 objective가 성능과 효율성을 향상시키는가?
• RQ4 질의 단계에서 불확실성과 다양성을 명시적으로 균형 있게 다루는 것이 초기 학습과 수렴 속도를 개선하는가?
• RQ5 WAAL이 일반 이미지 분류 벤치마크에서 표준 AL baselines에 대해 어떻게 성능을 보이는가?

주요 결과

• WAAL은 Fashion-MNIST, SVHN, CIFAR-10에서 여러 실행에 걸쳐 일관되게 baselines를 능가한다.
• WAAL은 비라벨링 데이터를 효과적으로 활용해 초기 학습 단계에서 현저한 개선을 보인다.
• Ab-lation은 Wasserstein 기반 적대적 학습이 H-발산 기반 접근법보다 우수함을 보여준다.
• WAAL은 불확실성 기반 방법과 비교해 질의 시간 측면에서 동등하거나 더 빠르게 동작하며 다양성을 포함한다.
• 제안된 불확실성-다양성 질의 전략은 순수 불확실성 기반이나 순수 다양성 기반 방법보다 더 나은 배치 선택을 제공한다.
• Table 1은 WAAL의 질의 시간이 보고된 설정에서 다른 방법에 비해 단위(1)임을 보인다.