[논문 리뷰] AdCo: Adversarial Contrast for Efficient Learning of Unsupervised Representations from Self-Trained Negative Adversaries

Qianjiang Hu, Xiao Wang외 2명|arXiv (Cornell University)|2020. 11. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 39인용 수 12

한 줄 요약

AdCo는 표현 네트워크와 함께 종단 간으로 훈련되는 적대적 음성 예제를 포함하는 새로운 대비 학습 프레임워크를 제안한다. 이는 매우 도전적인 음성 예제를 생성한다. 최소화-최대화 목표를 통해 표현 네트워크와 음성 적대자들을 번갈아 최적화함으로써 AdCo는 최신 기술 성능을 달성한다 (800 에포크 후 선형 평가에서 ImageNet에서의 상위-1 정확도 75.7%)이며, MoCo 및 기타 기준 대비 사전 훈련 시간과 GPU 비용을 크게 줄였다.

ABSTRACT

Contrastive learning relies on constructing a collection of negative examples that are sufficiently hard to discriminate against positive queries when their representations are self-trained. Existing contrastive learning methods either maintain a queue of negative samples over minibatches while only a small portion of them are updated in an iteration, or only use the other examples from the current minibatch as negatives. They could not closely track the change of the learned representation over iterations by updating the entire queue as a whole, or discard the useful information from the past minibatches. Alternatively, we present to directly learn a set of negative adversaries playing against the self-trained representation. Two players, the representation network and negative adversaries, are alternately updated to obtain the most challenging negative examples against which the representation of positive queries will be trained to discriminate. We further show that the negative adversaries are updated towards a weighted combination of positive queries by maximizing the adversarial contrastive loss, thereby allowing them to closely track the change of representations over time. Experiment results demonstrate the proposed Adversarial Contrastive (AdCo) model not only achieves superior performances (a top-1 accuracy of 73.2\% over 200 epochs and 75.7\% over 800 epochs with linear evaluation on ImageNet), but also can be pre-trained more efficiently with fewer epochs.

연구 동기 및 목표

• 기존의 대비 학습 방법들이 음성 큐를 부분적으로만 갱신하거나 현재 미니배치 음성 예제에만 의존하는 데서 비효율적인 점을 해결하기 위해.
• 이전 정보를 점진적으로 갱신하거나 기각하는 대신, 전체적으로 음성 예제를 갱신함으로써 표현 변화를 시간에 따라 지속적으로 추적하는 방법을 개발하기 위해.
• 표현 네트워크와 함께 종단 간 훈련이 가능한 음성 적대자를 도입하여 시간이 지남에 따라 점점 더 도전적으로 변하는 음성 예제를 만들 수 있도록 하여 사전 훈련 효율성을 향상시키기 위해.
• 하류 성능을 유지하거나 향상시키면서도 사전 훈련에 필요한 에포크 수와 GPU 시간을 줄이기 위해.

제안 방법

• AdCo는 표현 네트워크와 훈련 가능한 음성 적대자 집합 간의 최소화-최대화 최적화 문제를 설정한다.
• 표현 네트워크는 양성 쿼리와 적대적 음성 예제를 구분함으로써 대비 손실을 최소화하도록 훈련된다.
• 음성 적대자는 동일한 대비 손실을 최대화함으로써 갱신되며, 이를 통해 양성 쿼리의 가중 조합으로 향하도록 유도된다. 이는 음성 예제가 계속 도전적으로 유지되도록 한다.
• 적대적 갱신은 음성 예제가 변화하는 표현 공간을 정확히 따라가도록 보장하여 오래된 또는 관련 없는 음성 예제를 방지한다.
• 이 방법은 백본과 음성 적대자를 함께 종단 간 훈련할 수 있게 하여, 둘을 통합된 학습 구성 요소로 통합한다.
• 도함수 분석 결과, 음성 적대자는 양성 쿼리의 가중 평균 쪽으로 이동하게 되며, 이는 음성 예제가 여전히 대표적이고 분류 능력이 뛰어나게 한다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 종단 간 훈련이 가능한 적대적 음성 예제가 자율 대비 표현 학습의 분류 능력을 향상시키는 데 효과적으로 활용될 수 있는가?
• RQ2 모든 음성 적대자를 전체적으로 갱신하는 것이 점진적인 큐 갱신 대비 표현 학습에 어떤 영향을 미치는가?
• RQ3 제안된 방법이 성능을 유지하거나 향상시키면서도 사전 훈련에 필요한 에포크 수와 GPU 시간을 줄이는가?
• RQ4 적대적 음성 예제가 작은 물체와 같은 하드 샘플을 얼마나 잘 포괄하는가? 이는 하류 탐지 성능 향상에 어떤 기여를 하는가?
• RQ5 표현 네트워크와 음성 적대자 간의 최소화-최대화 훈련 다이내믹이 수렴성과 일반화에 어떤 영향을 미치는가?

주요 결과

• AdCo는 200 에포크 후 선형 평가에서 ImageNet에서 상위-1 정확도 73.2%를 기록했고, 800 에포크 후에는 75.7%를 달성하여 동일한 설정에서 MoCo v2를 능가했다.
• 단지 10 에포크만으로도 AdCo는 MoCo v2보다 상위-1 정확도 5%p 높게 기록하여 뛰어난 샘플 효율성을 보였다.
• AdCo는 MoCo v2 대비 약 30~50 에포크를 줄여 사전 훈련에 필요한 에포크 수를 감소시켰으며, 동일한 성능을 달성했다.
• t-SNE 시각화 결과, AdCo는 더 적은 음성 외곽선을 생성하고 음성 표현이 더 단단히 뭉쳐져 있음을 보여주어 양성 쿼리 분포를 더 잘 추적하고 있음을 시사한다.
• 객체 탐지에 대한 COCO에서 AdCo는 기준 모델 대비 AP_S를 3.3%~3.6% 향상시켰으며, 다중 크롭 증강 기반의 SWAV를 능가하는 성능을 보였다.
• 추론 실험 결과, AdCo는 사전 훈련에 소요되는 GPU 시간을 크게 줄였으며, MoCo 및 BYOL 기반 접근법보다 더 효율적임을 입증했다.