[논문 리뷰] Deep Batch Active Learning by Diverse, Uncertain Gradient Lower Bounds

Jordan T. Ash, Chicheng Zhang외 3명|arXiv (Cornell University)|2019. 06. 09.

Machine Learning and Algorithms참고 문헌 46인용 수 280

한 줄 요약

BADGE는 그래디언트 기반 불확실성과 다양성을 결합하여 배치를 선택하고, 그래디언트 임베딩에 대해 k-means++를 사용해 추가 하이퍼파라미터 없이 라벨을 쿼리하며, 아키텍처와 배치 크기에 걸쳐 견고한 성능을 보인다.

ABSTRACT

We design a new algorithm for batch active learning with deep neural network models. Our algorithm, Batch Active learning by Diverse Gradient Embeddings (BADGE), samples groups of points that are disparate and high-magnitude when represented in a hallucinated gradient space, a strategy designed to incorporate both predictive uncertainty and sample diversity into every selected batch. Crucially, BADGE trades off between diversity and uncertainty without requiring any hand-tuned hyperparameters. We show that while other approaches sometimes succeed for particular batch sizes or architectures, BADGE consistently performs as well or better, making it a versatile option for practical active learning problems.

연구 동기 및 목표

• 실용적인 환경에서 딥 뉴럴 네트워크의 라벨 효율적 학습을 촉진한다.
• 아키텍처, 배치 크기, 데이터셋에 걸쳐 작동하고 손으로 조정된 하이퍼파라미터 없이도 작동하는 배치 활성 학습 알고리즘을 개발한다.
• 그래디언트 기반 표현을 통해 배치 선택에 불확실성과 다양성을 모두 인코딩한다.
• 배치 품질을 보존하면서 비용이 큰 확률적 샘플링을 피하는 확장 가능한 샘플링 방법을 제공한다.

제안 방법

• 마지막 층에 대한 교차 엔트로피 손실의 그래디언트를 취해 각 라벨링되지 않은 예시에 대한 그래디언트 임베딩을 계산하고, 모델의 현재 예측 레이블을 대리 실제 레이블로 사용한다.
• 그래디언트 임베딩의 길이를 불확실성과 잠재적 업데이트 크기의 대리 척도로 사용한다.
• 배치 포인트들 간의 높은 크기와 다양성을 촉진하도록 그래디언트 임베딩 집합에 대해 k-means++ 시드를 사용해 배치를 선택한다.
• 선정된 배치 포인트의 라벨을 반복적으로 쿼리하고, 모델을 재학습시키고, T 반복한다.
• 일반적인 네트워크 구조에서 그래디언트 임베딩 노름이 최종 층의 진짜 그래디언트 노름을 하한으로 보장함을 보인다.
• 여러 아키텍처(MLP, ResNet, VGG)와 데이터셋(SVHN, CIFAR-10, MNIST, OpenML 데이터셋)에 대해 BADGE를 여러 기준선과 비교한다.

실험 결과

연구 질문

• RQ1 다양한 아키텍처, 배치 크기 및 데이터셋에 대해 BADGE가 최첨단 배치 활성 학습 방법보다 지속적으로 더 좋거나 일치하는가?
• RQ2 하이퍼파라미터 없는 그래디언트 임베딩 기반 접근법이 배치에서 불확실성과 다양성을 효과적으로 포착할 수 있는가?
• RQ3 그래디언트 임베딩에 대한 k-means++ 샘플링이 k-DPP와 같은 더 복잡한 샘플러에 대한 계산적으로 효율적이고 견고한 대리 후보가 되는가?
• RQ4 실용적인 딥러닝 설정에서 대표 샘플링(다양성) 및 불확실성 샘플링 기준선에 비해 BADGE의 성능은 어떠한가?

주요 결과

• BADGE는 아키텍처, 배치 크기, 데이터셋 설정 전반에서 최고 기준선과 동등하거나 그보다 우수한 성능을 꾸준히 보인다.
• 그래디언트 임베딩은 불확실성에 대한 보수적인 척도와 잠재적 업데이트 방향을 제공하여 효과적인 배치 선택을 가능하게 한다.
• 그래디언트 임베딩에 대한 k-means++는 다양하고 큰 크기의 배치를 생성하여 k-DPP 샘플링과 비슷하거나 더 나으며 실행 시간이 개선된다.
• 다양성 기반 방법만으로는 복잡한 데이터나 제한된 아키텍처 편향에서 실패할 수 있지만, BADGE는 불확실성과 다양성을 결합해 견고함을 유지한다.
• 실험에서 BADGE는 coreset, margin, entropy, 무작위 기준선의 성능과 일치하거나 초과하는 경우가 많으며, 특히 더 작은 배치 크기와 합성곱 아키텍처에서 두드러진다.