[논문 리뷰] SOSELETO: A Unified Approach to Transfer Learning and Training with Noisy Labels

Or Litany, Daniel Z. Freedman|arXiv (Cornell University)|2018. 05. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 7

한 줄 요약

SOSELETO는 전이 학습과 노이즈 있는 레이블 학습을 향상시키기 위해 원통적인 이중 최적화 프레임워크를 제안한다. 이는 소스 샘플의 가중치와 타겟 분류 모델을 동시에 학습함으로써, 동적으로 유의미한 소스 예제를 선택한다. SOSELETO는 데이터가 부족한 전이 학습 및 노이즈 있는 레이블 학습 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We present SOSELETO (SOurce SELEction for Target Optimization), a new method for exploiting a source dataset to solve a classification problem on a target dataset. SOSELETO is based on the following simple intuition: some source examples are more informative than others for the target problem. To capture this intuition, source samples are each given weights; these weights are solved for jointly with the source and target classification problems via a bilevel optimization scheme. The target therefore gets to choose the source samples which are most informative for its own classification task. Furthermore, the bilevel nature of the optimization acts as a kind of regularization on the target, mitigating overfitting. SOSELETO may be applied to both classic transfer learning, as well as the problem of training on datasets with noisy labels; we show state of the art results on both of these problems.

연구 동기 및 목표

• 모든 소스 예제를 동일하게 취급하는 표준 전이 학습의 한계를 해결하기 위해, 타겟 작업에 대한 관련성이 다양한 예제에 대해 고려한다.
• 소스 샘플 중에서 타겟 분류 문제에 가장 유용한 예제를 학습함으로써, 데이터가 부족한 타겟 설정에서 일반화 성능을 향상시킨다.
• 소스 샘플 가중치를 통한 정규화를 통해 타겟 분류기를 정규화함으로써, 노이즈 있는 레이블 학습에서 과적합을 완화한다.
• 전이 학습과 노이즈 있는 레이블 학습이라는 두 가지 서로 다른 학습 철학을 하나의 종단 간 훈련 가능한 프레임워크로 통합한다.
• 사전에 레이블 겹침 또는 분포 유사성에 대한 가정 없이, 도움이 되지 않는 또는 노이즈가 있는 소스 예제를 자동으로 제거할 수 있도록 한다.

제안 방법

• 내부 최적화는 고정된 샘플 가중치로 소스 분류 손실을 최소화하고, 외부 최적화는 샘플 가중치와 분류기 파라미터에 대해 타겟 분류 손실을 최소화하는 이중 최적화 문제를 수립한다.
• 각 소스 샘플에 대해 학습 가능한, 인스턴스별 가중치를 도입하여 타겟 작업에 대한 관련성을 표현한다.
• 공유 표현, 소스 및 타겟 분류기, 소스 샘플 가중치를 종단 간 방식으로 동시에 최적화한다.
• 이중 최적화 구조를 암묵적 정규화로 활용한다: 타겟은 표현을 직접 제어하지 않아 과적합 위험을 줄인다.
• 이 프레임워크를 전이 학습(클래스가 겹치지 않거나 부분적으로 겹치는 경우)과 노이즈 있는 레이블 학습(청소 타겟 데이터와 노이즈 있는 소스 데이터)에 적용한다.
• 기울기 기반 최적화를 통해 이중 최적화 문제를 해결하여, 모든 파라미터를 동시에 업데이트할 수 있도록 backpropagation을 적용한다.

실험 결과

연구 질문

• RQ1 동적으로 유의미한 소스 예제를 선택함으로써, 통합 프레임워크가 전이 학습과 노이즈 있는 레이블 학습 양 측면에서 성능 향상을 이룰 수 있는가?
• RQ2 SOSELETO의 이중 최적화 기법이 타겟 분류기를 어떻게 정규화하고, 데이터가 부족한 환경에서 과적합을 줄이는가?
• RQ3 SOSELETO는 훈련 과정에서 도움이 되지 않는 또는 잘못 레이블링된 소스 인스턴스를 어느 정도 자동으로 식별하고 제거할 수 있는가?
• RQ4 소스와 타겟의 레이블 공간이 완전히 겹치지 않거나 부분적으로 겹칠 경우, SOSELETO가 기존 방법보다 전이 학습에서 뛰어난 성능을 내는가?
• RQ5 소규모 청소된 타겟 데이터 세트가 존재할 때, SOSELETO는 대규모 데이터셋에서 레이블 노이즈의 악영향을 얼마나 효과적으로 완화하는가?

주요 결과

• SOSELETO는 전이 학습과 노이즈 있는 레이블 학습 벤치마크에서 최신 기술 수준의 성능을 달성하며, 다양한 설정에서 이전 방법들을 능가한다.
• 30%의 레이블 노이즈가 있는 CIFAR-10에서, SOSELETO는 테스트 정확도 88.7%를 달성하여 동일 조건에서 기준 방법보다 뚜렷이 뛰어나다.
• SVHN 0-9에서 MNIST 5-9로의 전이 학습 과제에서, SOSELETO는 시각적으로 유사하고 중심이 잘 잡히며 노이즈가 적은 소스 인스턴스를 효과적으로 선택함으로써 정확도를 90.3%까지 향상시켰다.
• SOSELETO는 SVHN 데이터셋의 약 3–5%의 잘못 레이블링된 인스턴스를 식별하고 가중치를 낮추며, 노이즈 있는 예제를 탐지하고 완화할 수 있음을 보여준다.
• SVHN에서 고가중치를 가진 소스 인스턴스는 일관되게 잘 정렬되어 있고(중앙에 위치, 선명, 축에 수직, 적절한 크기), 저가중치 인스턴스는 흐림, 기울임, 또는 잘못 레이블링된 경향이 있다.
• SOSELETO가 학습한 소스 샘플 가중치는 클래스 레이블보다는 시각적 품질과 정렬도와 더 강하게 상관되며, 이는 방법이 클래스 겹침보다는 인스턴스의 품질을 우선시한다는 것을 시사한다.