[논문 리뷰] Minimax Active Learning

Sayna Ebrahimi, William Gan외 6명|arXiv (Cornell University)|2020. 12. 18.

Machine Learning and Algorithms참고 문헌 68인용 수 16

한 줄 요약

이 논문은 최소화-최대화 적대적 훈련 프레임워크 내에서 불확실성과 다양성을 통합하여, 라벨링되지 않은 데이터의 엔트로피를 최소화하고 분류기가 이를 최대화하도록 훈련하는, 풀 기반 반독립 학습 방법인 Minimax Active Learning (MAL)을 제안한다. MAL은 적대적 훈련을 통해 작업 지향적 불확실성과 라벨링 기반 다양성을 공동으로 활용함으로써 이미지 분류 및 의미 세그멘테이션 벤치마크에서 최신 기술을 초월한다.

ABSTRACT

Active learning aims to develop label-efficient algorithms by querying the most representative samples to be labeled by a human annotator. Current active learning techniques either rely on model uncertainty to select the most uncertain samples or use clustering or reconstruction to choose the most diverse set of unlabeled examples. While uncertainty-based strategies are susceptible to outliers, solely relying on sample diversity does not capture the information available on the main task. In this work, we develop a semi-supervised minimax entropy-based active learning algorithm that leverages both uncertainty and diversity in an adversarial manner. Our model consists of an entropy minimizing feature encoding network followed by an entropy maximizing classification layer. This minimax formulation reduces the distribution gap between the labeled/unlabeled data, while a discriminator is simultaneously trained to distinguish the labeled/unlabeled data. The highest entropy samples from the classifier that the discriminator predicts as unlabeled are selected for labeling. We evaluate our method on various image classification and semantic segmentation benchmark datasets and show superior performance over the state-of-the-art methods.

연구 동기 및 목표

• 불확실성 중심 또는 다양성 중심의 활동 학습 기법의 한계를 해결하기 위해 둘을 통합한 통합 프레임워크를 제안한다.
• 데이터 불균형과 소수 클래스에서의 성능 열악함이 흔한 실세계 환경에서 라벨링 비용을 줄인다.
• 반독립 학습을 통해 라벨링된 데이터와 라벨링되지 않은 데이터를 모두 활용함으로써 적대적 표현 학습을 통한 활동 학습 성능 향상을 도모한다.
• 라벨링된 데이터로부터의 다양성과 작업 프로토타입에 대한 불확실성 모두를 고려한 하이브리드 샘플링 전략을 개발한다.
• 반독립 학습과 라벨링 여부에 대한 적대적 식별을 결합함으로써, 감독 학습 또는 순수 비지도 학습 기반 벤치마크보다 뛰어난 성능을 달성함을 입증한다.

제안 방법

• 라벨링되지 않은 데이터의 특징 엔코더 F를 훈련하여 라벨링되지 않은 특징의 엔트로피를 최소화함으로써, 라벨링되지 않은 데이터의 클러스터링을 더욱 밀도 있게 만든다.
• 코사인 유사도 기반 분류기 C를 사용하여 라벨링되지 않은 데이터에서 엔트로피를 최대화함으로써, 샘플들이 클래스 프로토타입으로부터 멀리 떨어져 있도록 유도한다.
• 라벨링된 특징과 라벨링되지 않은 특징를 구분하는 디스criminator D를 훈련하여 각 샘플에 대한 라벨링 여부 점수를 학습한다.
• 분류기의 엔트로피가 높고, D가 그 샘플이 라벨링되지 않았음을 높은 신뢰도로 판단하는 샘플을 선택함으로써 불확실성과 다양성을 결합한다.
• 전체 시스템을 최소화-최대화 목표 함수를 통해 최적화한다: F는 엔트로피를 최소화하고, C는 엔트로피를 최대화하며, D는 라벨링된 데이터와 라벨링되지 않은 데이터를 구분한다.
• 라벨링된 데이터에 대해 교차 엔트로피 손실을, 라벨링되지 않은 데이터에 대해 엔트로피 최소화를 함께 적용함으로써 반독립 학습을 수행한다.

실험 결과

연구 질문

• RQ1 활동 학습에서 불확실성과 다양성을 동시에 고려하면, 각각을 별도로 사용할 때보다 성능 향상이 이루어지는가?
• RQ2 특징 엔코더와 디스criminator 간의 적대적 훈련이 활동 학습에서 표현 학습을 어떻게 향상시키는가?
• RQ3 라벨링되지 않은 데이터에 대해 엔트로피 최소화를 적용한 반독립 학습은 감독 기반 벤치마크에 비해 활동 학습 성능을 크게 향상시키는가?
• RQ4 라벨링 여부(다양성)와 분류기 엔트로피(불확실성)를 모두 고려한 하이브리드 샘플링 전략은 순수한 불확실성 또는 다양성 중심 전략보다 우월한가?
• RQ5 제안된 방법은 ResNet18과 VGG16 등의 백본 아키텍처 변화에 대해 얼마나 강인한가?

주요 결과

• ImageNet에서 MAL은 20%의 라벨링된 데이터로 52.9%의 top-1 정확도를 기록하여, SSL-Div(50.0%)와 SSL-Unc(49.5%)보다 뚜렷이 뛰어나다.
• BDD100K에서 MAL은 25%의 라벨링된 데이터로 45.3%의 mIoU를 달성하여, SSL-Div(43.1%)와 SSL-Unc(42.8%)를 2.2퍼센트 포인트 이상 앞서며 성능을 뛰어넘는다.
• VGG16-BN를 사용한 MAL은 CIFAR100에서 8%의 라벨링된 데이터로 49.5%의 정확도를 기록하여, VAAL(47.9%)을 1.6퍼센트 포인트 초월한다.
• ResNet18를 사용한 MAL은 CIFAR100에서 8%의 라벨링된 데이터로 43.4%의 정확도를 기록하여, VAAL(40.9%)을 2.5퍼센트 포인트 초월한다.
• 절단 실험 결과, 라벨링 여부 예측을 위한 적대적 훈련과 함께 반독립 학습을 적용할 경우 성능 향상이 가장 크게 나타나, 공동 최적화의 효과를 확인한다.
• 이 방법은 백본 아키텍처의 선택에 대해 강인하며, CIFAR100에서 ResNet18과 VGG16-BN 모두에서 VAAL을 일관되게 뛰어넘는다.