[論文レビュー] SOSELETO: A Unified Approach to Transfer Learning and Training with Noisy Labels

Or Litany, Daniel Z. Freedman|arXiv (Cornell University)|May 24, 2018

Domain Adaptation and Few-Shot Learning参考文献 46被引用数 7

ひとこと要約

SOSELETOは、転移学習とラベルノイズ学習の両方を向上させるために、一貫した二段階最適化フレームワークを提案する。このフレームワークでは、エンド・トゥ・エンド最適化によって動的に有用なソース例を選択し、ソースサンプルの重みとターゲット分類モデルを同時に学習する。SOSELETOは、データが乏しい転移学習およびラベルノイズ学習のベンチマークで最先端の性能を達成する。

ABSTRACT

We present SOSELETO (SOurce SELEction for Target Optimization), a new method for exploiting a source dataset to solve a classification problem on a target dataset. SOSELETO is based on the following simple intuition: some source examples are more informative than others for the target problem. To capture this intuition, source samples are each given weights; these weights are solved for jointly with the source and target classification problems via a bilevel optimization scheme. The target therefore gets to choose the source samples which are most informative for its own classification task. Furthermore, the bilevel nature of the optimization acts as a kind of regularization on the target, mitigating overfitting. SOSELETO may be applied to both classic transfer learning, as well as the problem of training on datasets with noisy labels; we show state of the art results on both of these problems.

研究の動機と目的

• ターゲットタスクに対する関連性に差があるにもかかわらず、すべてのソース例を同等に扱う標準的な転移学習の限界を解消すること。
• ターゲット分類問題に対して最も有用なソースサンプルを学習することで、データが乏しいターゲット設定における一般化性能を向上させること。
• ソースサンプル重み付けを通じてターゲット分類器を正則化する二段階最適化を組み込むことで、ラベルノイズ学習における過学習を軽減すること。
• 転移学習とラベルノイズ学習という二つの異なる学習パラダイムを、一貫したエンド・トゥ・エンドで訓練可能なフレームワークで統合すること。
• ラベルの重複や分布の類似性に関する事前仮定なしに、役に立たないまたはノイズの多いソース例を自動的にデータ駆動で除外できるようにすること。

提案手法

• 内側の段階では固定されたサンプル重みでソース分類損失を最小化し、外側の段階では重みと分類器パラメータの両方に関してターゲット分類損失を最小化する二段階最適化問題を定式化する。
• 各ソースサンプルの関連性を表す学習可能なインスタンス固有の重みを導入する。
• エンド・トゥ・エンドの方法で、共有表現、ソースおよびターゲット分類器、およびソースサンプル重みを同時に最適化する。
• 二段階構造を暗黙の正則化として用いる：ターゲットは表現を直接制御しないため、過学習のリスクが低下する。
• クラスが重複するか否かにかかわらず、転移学習（離散的または重複するクラス）およびラベルノイズ学習（クリーンなターゲットデータとノイズのあるソースデータ）の両方の設定にこのフレームワークを適用する。
• 勾配に基づく最適化により二段階問題を解き、すべてのパラメータを同時に更新できるバックプロパゲーションを可能にする。

実験結果

リサーチクエスチョン

• RQ1 動的に有用なソース例を選択することで、統合フレームワークが転移学習とラベルノイズ学習の両方で性能を向上させられるか？
• RQ2 SOSELETOの二段階最適化スキームは、データが乏しい設定においてターゲット分類器をどのように正則化し、過学習を軽減するか？
• RQ3 SOSELETOは、トレーニング中に役に立たないまたは誤ってラベル付けされたソースインスタンスをどの程度自動で同定・除外できるか？
• RQ4 ソースとターゲットのラベル空間が完全に重複しない、または部分的にしか重複しない状況において、SOSELETOは既存の手法を上回る性能を示せるか？
• RQ5 小規模なクリーンなターゲットセットが利用可能な状況で、SOSELETOは大規模データセットにおけるラベルノイズの悪影響をどの程度効果的に軽減できるか？

主な発見

• SOSELETOは、転移学習およびラベルノイズ学習の両方のベンチマークで最先端の性能を達成し、複数の設定で先行手法を上回る。
• 30％のラベルノイズを含むCIFAR-10では、SOSELETOはテスト精度88.7％を達成し、同等の条件下でベースライン手法を著しく上回る。
• SVHN 0-9 から MNIST 5-9 への転移学習タスクにおいて、SOSELETOは視覚的に類似した、適切に中央に配置され、ノイズの少ないソースインスタンスを効果的に選択することで、精度を90.3％まで向上させる。
• SOSELETOは、SVHNデータセットの約3–5％の誤ってラベル付けされたインスタンスを同定し、重みを下げる。これは、ノイズのある例の検出と緩和の能力を示している。
• SVHNにおける高重みのソースインスタンスは、一貫して良好な形状（中央に配置され、明確で、軸に沿って整列し、適切なサイズ）を示すが、低重みのインスタンスはぼやけ、回転している、または誤ってラベル付けされていることが多い。
• SOSELETOが学習するソースサンプル重みは、クラスラベルよりも視覚的品質や整列性とより強く相関しており、この手法がクラスの重複よりもインスタンスの品質を優先していることを示している。