[논문 리뷰] A Simple Semi-Supervised Learning Framework for Object Detection

Kihyuk Sohn, Zizhao Zhang외 4명|arXiv (Cornell University)|2020. 05. 10.

Advanced Neural Network Applications참고 문헌 69인용 수 325

한 줄 요약

STAC는 라벨이 달리지 않은 데이터에서 높은 신뢰도의 pseudo bounding boxes를 생성하는 교사를 사용하고, 강력한 증강으로 학습하여 객체 탐지기를 향상시키는 간단한 두 단계의 반지도 학습 프레임워크를 제시하며, MS-COCO와 VOC07에서 데이터 효율성 향상을 달성한다.

ABSTRACT

Semi-supervised learning (SSL) has a potential to improve the predictive performance of machine learning models using unlabeled data. Although there has been remarkable recent progress, the scope of demonstration in SSL has mainly been on image classification tasks. In this paper, we propose STAC, a simple yet effective SSL framework for visual object detection along with a data augmentation strategy. STAC deploys highly confident pseudo labels of localized objects from an unlabeled image and updates the model by enforcing consistency via strong augmentations. We propose experimental protocols to evaluate the performance of semi-supervised object detection using MS-COCO and show the efficacy of STAC on both MS-COCO and VOC07. On VOC07, STAC improves the AP$^{0.5}$ from $76.30$ to $79.08$; on MS-COCO, STAC demonstrates $2{ imes}$ higher data efficiency by achieving 24.38 mAP using only 5\% labeled data than supervised baseline that marks 23.86\% using 10\% labeled data. The code is available at https://github.com/google-research/ssl_detection/.

연구 동기 및 목표

• 레이블링 비용이 높아 객체 탐지의 데이터 효율성이 필요하다는 동기를 제시한다.
• 가짜 라벨링과 증강 일관성을 활용하는 간단한 SSL 프레임워크를 개발한다.
• MS-COCO 및 PASCAL VOC에서 낮은 라벨 비에서 STAC의 효과를 보여준다.

제안 방법

• Noisy-Student에서 영감을 받은 두 단계 학습: 라벨링된 데이터로 교사를 학습한 뒤, 비라벨링 이미지에 대해 pseudo 박스를 생성한다.
• 높은 신뢰 임계값으로 pseudo 박스를 필터링하고 테스트 시 추론을 통해 pseudo 라벨을 얻는다.
• 비라벨링 데이터에 강력하고 다양한 증강(전역 색상, 전역 기하학, 박스 수준 변환, Cutout)을 적용하고 그에 따라 pseudo 박스를 조정한다.
• 강력한 증강 후에 pseudo 라벨에 대한 비지도 손실을 계산하고, 라벨이 달린 데이터에 대한 감독 손실과 결합한다.
• 단순한 비지도 손실 가중치 lambda_u와 신뢰 임계값 tau를 사용해 Faster R-CNN을 최적화한다(tau ≈ 0.9, lambda_u ≈ 2).
• 1–10% 라벨 데이터와 전체 데이터를 사용해 MS-COCO 및 PASCAL VOC에서 평가하고, 감독 기반 baselines와 비교한다.

실험 결과

연구 질문

• RQ1 가짜 라벨링과 강력한 증강을 사용하는 간단한 SSL 프레임워크가 한정된 라벨 데이터로 객체 탐지를 개선할 수 있는가?
• RQ2 pseudo-라벨 품질, 증강 강도, 미라벨 데이터 규모가 MS-COCO와 VOC07의 탐지 성능에 어떤 영향을 미치는가?
• RQ3 저라벨 regime에서 STAC의 효과적인 하이퍼파라미터(tau, lambda_u)는 무엇인가?

주요 결과

방법	1% COCO	2% COCO	5% COCO	10% COCO	100% COCO
Supervised	9.05 ± 0.16	12.70 ± 0.15	18.47 ± 0.22	23.86 ± 0.81	37.63
Supervised †	9.83 ± 0.23	14.28 ± 0.22	21.18 ± 0.20	26.18 ± 0.12	39.48
STAC	13.97 ± 0.35	18.25 ± 0.25	24.38 ± 0.12	28.64 ± 0.21	39.21

• STAC는 MS-COCO의 1–10% 라벨 데이터에서 감독 기반 baselines를 일관되게 상회한다.
• 5% 라벨 데이터에서 STAC은 mAP를 18.47(감독)에서 24.38로 향상시키고, 10% 라벨 데이터에서 23.86에서 28.64로 올린다.
• STAC는 COCO 100%에서 39.21 mAP를 달성(대조군 37.63 감독 베이스라인 및 39.48 강력한 증강과 함께)한다.
• VOC07에서 추가 비라벨 데이터가 있는 STAC는 46.01 mAP(AP50 79.08)으로 감독 베이스라인의 42.60/76.30 대비 향상된다.
• 저라벨 영역에서 STAC의 데이터 효율성은 약 2배로, 특히 5% 및 10% 라벨 데이터에서 효과가 크고 더 큰 비라벨 데이터 풀의 이점을 얻는다.