[논문 리뷰] Auxiliary Task Reweighting for Minimum-data Learning

Baifeng Shi, Judy Hoffman외 3명|arXiv (Cornell University)|2020. 10. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 61인용 수 14

한 줄 요약

이 논문은 주 작업의 데이터 요구량을 최소화하기 위해 공동 학습 중 최적의 작업 가중치를 자동으로 학습하는 자기지도 보조 작업 재가중 방법을 제안한다. 보조 작업의 가능도를 서면 사전확률로 설정하고, 이 서면 사전확률과 진짜 사전확률 간의 발산을 기울기 기반 최적화를 통해 최소화함으로써, 최소한의 레이블 데이터로도 최신 기술 수준의 성능을 달성한다. 소수의 예제(예: 클래스당 하나의 레이블 예제)만으로도 소수 학습 환경에서 뚜렷한 성능 향상을 보여준다.

ABSTRACT

Supervised learning requires a large amount of training data, limiting its application where labeled data is scarce. To compensate for data scarcity, one possible method is to utilize auxiliary tasks to provide additional supervision for the main task. Assigning and optimizing the importance weights for different auxiliary tasks remains an crucial and largely understudied research question. In this work, we propose a method to automatically reweight auxiliary tasks in order to reduce the data requirement on the main task. Specifically, we formulate the weighted likelihood function of auxiliary tasks as a surrogate prior for the main task. By adjusting the auxiliary task weights to minimize the divergence between the surrogate prior and the true prior of the main task, we obtain a more accurate prior estimation, achieving the goal of minimizing the required amount of training data for the main task and avoiding a costly grid search. In multiple experimental settings (e.g. semi-supervised learning, multi-label classification), we demonstrate that our algorithm can effectively utilize limited labeled data of the main task with the benefit of auxiliary tasks compared with previous task reweighting methods. We also show that under extreme cases with only a few extra examples (e.g. few-shot domain adaptation), our algorithm results in significant improvement over the baseline.

연구 동기 및 목표

• 소수 학습 및 준지도 학습 설정과 같은 저데이터 환경에서 레이블이 부족한 문제를 해결한다.
• 계산 비용이 많이 들고 최적화되지 않은 수동 또는 그리드 서치 기반 작업 가중치 설정의 한계를 극복한다.
• 보조 작업의 재가중을 통해 고품질의 사전확률을 학습함으로써 일반화 능력과 데이터 효율성을 향상시킨다.
• 보조 작업의 중요도에 대한 사전 지식 없이도 효과적으로 보조 작업을 활용할 수 있도록 한다.

제안 방법

• 보조 작업 가능도가 유도하는 매개변수 분포를 주 작업을 위한 서면 사전확률로 설정한다.
• 서면 사전확률과 주 작업의 진짜 사전확률 간의 발산을 최소화함으로써 보조 작업 가중치를 최적화한다.
• 계산이 불가능한 발산 최소화를 위해 주 작업 손실의 기울기와 가중된 보조 작업 손실의 합의 기울기 간 L2 거리 최소화를 통해 근사한다.
• 두 단계 학습 과정을 사용한다: 먼저 랭그비안 동역학을 통해 사후분포에서 샘플링하고, 그 다음 기울기 기반 최적화를 통해 작업을 재가중한다.
• 두 단계를 하나의 종단 간 학습 루프로 통합하여 모델 매개변수와 작업 가중치를 동시에 업데이트함으로써 알고리즘을 단순화한다.
• 각 업데이트 후 작업 가중치를 유효한 확률 단체로 투영하여 일관성을 유지한다.

실험 결과

연구 질문

• RQ1 저데이터 환경에서 보조 작업 재가중이 주 작업의 레이블 데이터 요구량을 크게 줄일 수 있는가?
• RQ2 비용이 많이 드는 그리드 서치나 사전 작업 선택 없이 최적의 작업 가중치를 자동으로 학습할 수 있는가?
• RQ3 보조 작업에서 유도된 서면 사전확률이 고정되거나 가중치 없는 보조 학습보다 일반화 능력과 데이터 효율성을 향상시키는가?
• RQ4 매우 제한된 레이블 데이터(예: 클래스당 하나의 예제)로도 이 방법이 강력한 성능을 달성할 수 있는가?

주요 결과

• 소수 학습 도메인 적응 환경에서 클래스당 하나의 레이블 예제만으로도 비지도 및 소수 학습 기준선보다 뚜렷한 성능 향상을 달성한다.
• CIFAR10과 SVHN에서 준지도 학습을 수행한 결과, 최소한의 레이블 데이터로도 기준선을 능가하며 데이터 효율성이 향상됨을 입증했다.
• CelebA 다중 레이블 분류 벤치마크에서, 이 방법은 39개의 보조 작업을 효과적으로 활용하여 레이블 데이터가 1%일 뿐인 주 작업의 성능을 향상시켰다.
• PACS에서의 도메인 일반화 실험에서, 이 방법은 도메인 간 변화에 강건하며 우수한 일반화 성능을 보였다.
• 학습률과 같은 하이퍼파rameter 선택에 대해 알고리즘이 강건하며, 특히 작업 가중치의 학습률은 넓은 범위에서 민감도가 낮게 나타났다.
• 랭그비안 동역학을 포함하지 않은 단순화된 알고리즘 버전이 전체 두 단계 방법과 유사한 성능을 보이며, 효율적인 종단 간 학습을 가능하게 했다.