[논문 리뷰] Batch Active Learning at Scale

Gui Citovsky, Giulia DeSalvo외 5명|arXiv (Cornell University)|2021. 07. 29.

Machine Learning and Algorithms참고 문헌 23인용 수 47

한 줄 요약

Cluster-Margin을 도입하며, 계층적 클러스터링을 사용해 저신뢰 샘플의 대규모 배치를 다양화하고 100K–1M 배치 크기에서 상당한 라벨 효율성을 달성하는 확장 가능한 배치 활성 학습 방법.

ABSTRACT

The ability to train complex and highly effective models often requires an abundance of training data, which can easily become a bottleneck in cost, time, and computational resources. Batch active learning, which adaptively issues batched queries to a labeling oracle, is a common approach for addressing this problem. The practical benefits of batch sampling come with the downside of less adaptivity and the risk of sampling redundant examples within a batch -- a risk that grows with the batch size. In this work, we analyze an efficient active learning algorithm, which focuses on the large batch setting. In particular, we show that our sampling method, which combines notions of uncertainty and diversity, easily scales to batch sizes (100K-1M) several orders of magnitude larger than used in previous studies and provides significant improvements in model training efficiency compared to recent baselines. Finally, we provide an initial theoretical analysis, proving label complexity guarantees for a related sampling method, which we show is approximately equivalent to our sampling method in specific settings.

연구 동기 및 목표

• 대형 모델을 학습하는 데 있어 데이터-레이블링 병목 현상을 동기 부여하고, 배치 활성 학습을 실용적 해결책으로 제시한다.
• 거대한 배치 크기를 처리하기 위해 불확실성(마진)과 클러스터링을 통한 다양성을 결합한 확장 가능한 샘플링 방법을 제안한다.
• 대규모 다라벨링 데이터셋과 소규모 다중 클래스 데이터셋에서 기준 방법 대비 상당한 라벨 효율성 향상을 입증한다.
• 볼륨 기반 샘플링 개념과 Cluster-Margin을 연결하는 초기 이론 분석과 라벨 복잡도 보장을 논의한다.

제안 방법

• Cluster-Margin은 마진 스코어를 사용해 낮은 신뢰도 샘플 세트를 선택하고 임베딩에 대해 계층적 응집 클러스터링(HAC)으로 비라벨링 풀을 군집화해 다양화를 수행한다.
• HAC는 모든 비라벨링 데이터에 대해 전처리 단계로 한 번 실행되며, 샘플링은 이후 저마진 집합에 나타난 클러스터들 간의 로터리 방식으로 진행된다.
• 마진 스코드는 상위 두 클래스 확률 간의 차이로 정의된다.
• 각 반복에서 선택된 클러스터마다 임의의 샘플 한 개를 선택해 목표 배치 k_t에 도달할 때까지 무작위 예시를 뽑아 타깃 배치를 구성한다.
• 클러스터링 및 임베딩 단계는 매우 큰 n(예: 약 900만 개 이미지의 Open Images)에서도 각 반복 계산이 실행 가능하도록 설계된다.
• 이론적 논의는 베타 효율적인 볼륨 기반 샘플러를 도입하고 특정 분포 하에서 Cluster-Margin과 연결하여 라벨 복잡도 이점을 제시한다.

실험 결과

연구 질문

• RQ1 정보성이나 다양성을 희생하지 않으면서 매우 큰 배치 크기(10^5–10^6)로 배치 활성 학습을 어떻게 확장할 수 있는가?
• RQ2 BADGE, CoreSet, Margin 등의 기존 기준선과 비교하여 HAC 기반 클러스터링으로 불확실성(마진)과 다양성을 결합하는 것이 대규모 및 소규모 데이터셋에서 라벨 효율성을 향상시키는가?
• RQ3 전처리 HAC 단계가 지속적인 속도 향상을 제공하고 여러 반복에 걸쳐 성능을 유지하거나 향상시킬 수 있는가?
• RQ4 저차원 임베딩 공간에서 Cluster-Margin과 볼륨 기반 샘플링 간의 이론적 보장이나 관계는 무엇인가?

주요 결과

• Open Images에서 100K 및 1M 배치 크기에서 기준 방법 대비 상당한 라벨 효율성 향상을 달성하며, 1M 설정에서 다음으로 가장 좋은 방법 대비 최대 60%까지 라벨을 줄인다.
• Open Images에서 Cluster-Margin은 약 920K 라벨 샘플로 Margin이 필요한 약 1.3M과 유사한 성능에 도달, 100K 배치에서 동일 목표에 대해 약 29% 더 적은 라벨을 시사한다.
• 소규모 CIFAR10/100 및 SVHN 실험에서 Cluster-Margin은 기준선에 경쟁력 있거나 우수하며, 대부분의 설정에서 CoreSet 및 BADGE를 능가한다.
• 관련 Cluster-MarginV 방법의 이론 분석은 베타-효율적인 볼륨 기반 샘플링이 저차원 임베딩 공간에서 라벨 복잡도를 ~d/log(k) 배로 감소시킬 수 있음을 보여주고, 특정 조건에서 Cluster-Margin과 연결된다.
• 기준선들 간에 Margin 샘플링이 때로 강력하지만, 대규모 배치의 Open-Image 실험에서 Cluster-Margin은 지속적으로 다른 방법을 능가한다.