[論文レビュー] Auxiliary Task Reweighting for Minimum-data Learning

Baifeng Shi, Judy Hoffman+3 more|arXiv (Cornell University)|Oct 16, 2020

Domain Adaptation and Few-Shot Learning参考文献 61被引用数 14

ひとこと要約

本稿では、主タスクのデータ要件を最小限に抑えるために、共同学習中に最適なタスク重みを自動で学習する自己教師付き補助タスク再重み付け手法を提案する。補助タスクの尤度を代理事前分布として定式化し、勾配ベースの最適化によってこの代理事前分布と真の事前分布との乖離を最小化することで、最小限のラベル付きデータで最先端の性能を達成する。少データ設定において、クラスあたり1例のラベル付きデータすらも有効に活用でき、顕著な性能向上を示している。

ABSTRACT

Supervised learning requires a large amount of training data, limiting its application where labeled data is scarce. To compensate for data scarcity, one possible method is to utilize auxiliary tasks to provide additional supervision for the main task. Assigning and optimizing the importance weights for different auxiliary tasks remains an crucial and largely understudied research question. In this work, we propose a method to automatically reweight auxiliary tasks in order to reduce the data requirement on the main task. Specifically, we formulate the weighted likelihood function of auxiliary tasks as a surrogate prior for the main task. By adjusting the auxiliary task weights to minimize the divergence between the surrogate prior and the true prior of the main task, we obtain a more accurate prior estimation, achieving the goal of minimizing the required amount of training data for the main task and avoiding a costly grid search. In multiple experimental settings (e.g. semi-supervised learning, multi-label classification), we demonstrate that our algorithm can effectively utilize limited labeled data of the main task with the benefit of auxiliary tasks compared with previous task reweighting methods. We also show that under extreme cases with only a few extra examples (e.g. few-shot domain adaptation), our algorithm results in significant improvement over the baseline.

研究の動機と目的

• 教師あり深層学習におけるラベル付きデータの制限という課題に取り組むこと、特に少データ設定（たとえば少データ学習や半教師あり設定）における課題に焦点を当てる。
• 計算コストが高く、最適でないため、手動またはグリッドサーチによるタスク重み付けの限界を克服すること。
• 補助タスクの再重み付けを適応的に行うことで、高品質な事前分布を学習し、一般化性能とデータ効率を向上させること。
• タスクの重要性に関する事前知識や膨大な探索を必要とせずに、補助タスクを効果的に活用できるようにすること。

提案手法

• 補助タスク尤度が誘導するパラメータ分布を、主タスクの代替事前分布として定式化する。
• 主タスクの真の事前分布とこの代替事前分布との乖離を最小化することで、補助タスクの重みを最適化する。
• 計算不能な乖離最小化を、主タスク損失の勾配と補助タスク損失の重み付き和の勾配とのL2距離を最小化することで近似する。
• 2段階の訓練プロセスを採用する：まずラングヴィン動力学を用いて事後分布からのサンプリングを行い、その後で勾配ベース最適化によりタスク重みを再調整する。
• 2段階を1つのエンドツーエンドの訓練ループに統合することで、モデルパラメータとタスク重みを同時に更新するようにアルゴリズムを簡素化する。
• 各更新後にタスク重みを有効な確率単体に射影することで、一貫性を維持する。

実験結果

リサーチクエスチョン

• RQ1 補助タスクの再重み付けは、少データ環境下での主タスクのラベル付きデータ要件を顕著に削減できるか？
• RQ2 高価なグリッドサーチや事前のタスク選定を必要とせずに、最適なタスク重みを自動で学習できるか？
• RQ3 補助タスクから導出される代替事前分布は、固定または重みなしの補助学習に比べ、一般化性能とデータ効率を向上させるか？
• RQ4 極めて限られたラベル付きデータ（例：クラスあたり1例）でも、本手法は強力な性能を達成できるか？

主な発見

• 提案手法は、ラベルなしや少データ学習のベースラインと比較して顕著な性能向上を示し、少データドメイン適応設定においても、クラスあたり1例のラベル付きデータのみで有効に機能する。
• CIFAR10およびSVHNにおける半教師あり学習では、最小限のラベル付きデータでベースラインを上回り、データ効率の向上を実証した。
• CelebAマルチラベル分類ベンチマークでは、39個の補助タスクを有効に活用し、1%のラベル付きデータでのみ主タスクの性能を向上させた。
• PACSにおけるドメイン一般化設定では、ドメインシフトに対して強く、ドメイン間で優れた一般化性能を達成した。
• アルゴリズムはハイパーパrameterの選択に対して頑健であり、特にタスク重みの学習率が広い範囲で不感に近い特性を示した。
• ラングヴィン動力学を含まない簡素化版のアルゴリズムは、完全な2段階手法と同等の性能を示し、効率的なエンドツーエンド訓練を可能にした。