[논문 리뷰] Pseudo-Labeled Auto-Curriculum Learning for Semi-Supervised Keypoint Localization

Can Wang, Sheng Jin외 5명|arXiv (Cornell University)|2022. 01. 21.

Advanced Image and Video Retrieval Techniques인용 수 8

한 줄 요약

이 논문은 준지도 키포인트 로컬라이제이션에서 고품질의 가짜 레이블 샘플을 자동으로 선택하기 위한 동적 신뢰도 임계값을 학습하는 강화학습 기반 방법인 가짜 레이블 자동 커리큘럼 학습(PLACL)을 제안한다. 커리큘럼 설계를 의사결정 문제로 공식화하고, 확장 학습을 통해 확신 편향을 완화함으로써, 단지 5%의 레이블 데이터만으로도 여섯 개의 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Localizing keypoints of an object is a basic visual problem. However, supervised learning of a keypoint localization network often requires a large amount of data, which is expensive and time-consuming to obtain. To remedy this, there is an ever-growing interest in semi-supervised learning (SSL), which leverages a small set of labeled data along with a large set of unlabeled data. Among these SSL approaches, pseudo-labeling (PL) is one of the most popular. PL approaches apply pseudo-labels to unlabeled data, and then train the model with a combination of the labeled and pseudo-labeled data iteratively. The key to the success of PL is the selection of high-quality pseudo-labeled samples. Previous works mostly select training samples by manually setting a single confidence threshold. We propose to automatically select reliable pseudo-labeled samples with a series of dynamic thresholds, which constitutes a learning curriculum. Extensive experiments on six keypoint localization benchmark datasets demonstrate that the proposed approach significantly outperforms the previous state-of-the-art SSL approaches.

연구 동기 및 목표

• 고정된 신뢰도 임계값이 하위 최적의 성능을 초래하는 준지도 키포인트 로컬라이제이션에서 신뢰도가 떨어지는 가짜 레이블 선택 문제를 해결한다.
• 반복적인 가짜 레이블링에서의 확신 편향과 노이즈 누적 문제를 해결하기 위해, 서로 다른 부분 데이터셋에서 번갈아가며 학습하는 확장 학습 전략을 도입한다.
• 모델 피드백에 기반해 임계값 선택을 동적으로 조정하는 데이터 기반의 자동 커리큘럼 학습 프레임워크를 개발하여 수동 임계값 조정을 제거한다.
• 다양한 데이터셋과 네트워크 아키텍처에 걸쳐 준지도 키포인트 로컬라이제이션의 일반화 능력과 강인성을 향상시킨다.

제안 방법

• 모델이 강화학습(PPO2)을 통해 최적의 신뢰도 임계값을 선택하는 방식으로 커리큘럼 설계를 순차적 의사결정 문제로 공식화한다.
• 모델 성능 피드백에 기반해 훈련 라운드 동안 동적으로 임계값을 조정하는 강화학습 에이전트를 사용하여, 쉬운 샘플에서 어려운 샘플로 점진적으로 진화하는 커리큘럼을 가능하게 한다.
• 노이즈 누적과 확신 편향을 줄이기 위해, 별도의 부분 데이터셋에서 가짜 레이블 예측과 모델 학습을 번갈아 수행하는 확장 학습 전략을 구현한다.
• 표준 가짜 레이블링과 강화학습 기반 커리큘럼을 통합하여, 다양한 키포인트 로컬라이제이션 네트워크에 적용 가능한 모델에 종속되지 않는 방법을 제공한다.
• PPO2를 사용한 탐색 파라다임을 도입하여 가능한 임계값 시퀀스 공간을 효율적으로 탐색하며, 무작위 또는 수동 탐색보다 뛰어난 성능을 달성한다.
• 모델의 예측 품질과 일반화 성능에 기반해 반복적으로 업데이트되는, 순차적인 신뢰도 임계값의 시퀀스로 커리큘럼을 정의한다.

실험 결과

연구 질문

• RQ1 자동으로 학습된 동적 신뢰도 임계값 커리큘럼이 준지도 키포인트 로컬라이제이션에서 고정된 수동 설계 임계값을 능가할 수 있는가?
• RQ2 확장 학습 전략은 반복적인 가짜 레이블링에서 확신 편향과 노이즈 누적 문제를 어떻게 완화하는가?
• RQ3 강화학습 기반 커리큘럼 탐색은 랜덤 또는 수동 임계값 선택에 비해 성능 향상에 얼마나 기여하는가?
• RQ4 제안된 방법은 다양한 키포인트 로컬라이제이션 데이터셋과 네트워크 아키텍처에 얼마나 일반화 가능한가?

주요 결과

• LSPET 데이터셋에서 레이블 데이터의 5%만으로 PLACL는 PCK@0.1 점수 70.76을 기록하며, 이전 최신 기술 수준의 방법(Ws-CDA+PPLO)보다 4.4점 높은 성능을 달성한다.
• MS-COCO 데이터셋에서 레이블 데이터의 5%만으로 PLACL는 PCK@0.1 점수 66.0을 기록하며, 다음으로 좋은 방법(Ws-CDA+PPLO)을 12.9점 초월한다.
• 제거 실험 결과, 확장 학습 전략을 제거하면 PCK@0.1 점수는 70.76에서 67.13으로 감소하여, 노이즈 누적 완화에 있어 그 핵심적인 역할을 확인한다.
• 강화학습을 통한 동적 임계값 사용(PLACL)은 고정 임계값 기반 베이스라인 대비 3.2점 향상된 성능을 기록하여, 커리큘럼 학습의 효과를 입증한다.
• 수동으로 설계된 감소하는 임계값 커리큘럼보다 PLACL가 뛰어난 성능을 보이며, 자동 강화학습 기반 커리큘럼 학습이 전문가가 설계한 히우리스틱보다 더 효과적임을 시사한다.
• 이 방법은 모델에 종속되지 않으며 일반화 능력이 뛰어나, 인간 및 동물 자세 추정 벤치마크를 포함한 여섯 개의 다양한 데이터셋에서 일관된 성능 향상을 기록한다.