[論文レビュー] EnAET: A Self-Trained framework for Semi-Supervised and Supervised Learning with Ensemble Transformations

Xiao Wang, Daisuke Kihara+2 more|arXiv (Cornell University)|Nov 21, 2019

Domain Adaptation and Few-Shot Learning参考文献 72被引用数 15

ひとこと要約

EnAET は、空間的および非空間的変換のアンサンブルを通じて自己教師付き表現を統合することで、半教師あり学習および教師あり学習の両方を向上させる自己学習フレームワークを提案する。自己符号化変換を適用し、異なる増幅ビュー間のKLダイバージェンスを最小化することで、一般化性能が著しく向上し、誤差率が低下する。最小限のラベルで最先端の性能を達成しており、CIFAR-10ではたった250ラベルで7.6%の誤差率を達成している。

ABSTRACT

Deep neural networks have been successfully applied to many real-world applications. However, such successes rely heavily on large amounts of labeled data that is expensive to obtain. Recently, many methods for semi-supervised learning have been proposed and achieved excellent performance. In this study, we propose a new EnAET framework to further improve existing semi-supervised methods with self-supervised information. To our best knowledge, all current semi-supervised methods improve performance with prediction consistency and confidence ideas. We are the first to explore the role of {\bf self-supervised} representations in {\bf semi-supervised} learning under a rich family of transformations. Consequently, our framework can integrate the self-supervised information as a regularization term to further improve {\it all} current semi-supervised methods. In the experiments, we use MixMatch, which is the current state-of-the-art method on semi-supervised learning, as a baseline to test the proposed EnAET framework. Across different datasets, we adopt the same hyper-parameters, which greatly improves the generalization ability of the EnAET framework. Experiment results on different datasets demonstrate that the proposed EnAET framework greatly improves the performance of current semi-supervised algorithms. Moreover, this framework can also improve {\bf supervised learning} by a large margin, including the extremely challenging scenarios with only 10 images per class. The code and experiment records are available in \url{https://github.com/maple-research-lab/EnAET}.

研究の動機と目的

• データ変換からの自己教師付き表現を活用することで、深層学習におけるラベル付きデータの制限を克服すること。
• 現在の一貫性および信頼度ベースの手法を上回る半教師あり学習性能を向上させるために、自己教師付き信号を統合すること。
• 最小限のハイパーパrameterチューニングで済む汎用的なフレームワークを構築し、半教師ありおよび完全教師あり学習の両方を向上させること。
• 多様な変換から得られる自己教師付き表現が、一般化性能の向上に有効な正則化として機能することを示すこと。
• 変換タイプや損失部品の違いがモデル性能に与える影響をアブレーションスタディを通じて調査すること。

提案手法

• EnAET は、空間的および非空間的変換（例：射影変換、アフィン変換、類似変換、ユークリッド変換、CCBS）のアンサンブルを用いて、ラベル付きおよびラベルなしデータを増幅する。
• フレームワークは、変換された入力を再構築する自己符号化変換を用い、データ増幅に対して不変な表現を学習する。
• 同じ入力に対する異なる変換下での予測のKLダイバージェンスを最小化することで、一貫性損失を適用する。
• 特徴量の異なるビュー同士を一致させるための対照学習（CL）損失を用い、表現品質を向上させる。
• 自己符号化変換（AET）損失により、変換された入力を再構築するようモデルを正則化し、データ変動に対するロバスト性を促進する。
• フレームワークはモジュラーであり、MixMatch などの既存の半教師あり学習手法に簡単に統合可能で、プラグイン型の正則化部品として機能する。

実験結果

リサーチクエスチョン

• RQ1 多様なデータ変換から得られる自己教師付き表現は、現在の一致性および信頼度ベースの手法を上回る半教師あり学習性能を向上させることができるか？
• RQ2 複数の変換タイプのアンサンブルは、個々の変換タイプの使用と比較して、モデルの一般化性能およびロバスト性にどのように寄与するか？
• RQ3 自己教師付き学習部品は、半教師ありおよび完全教師あり設定において、どれほど効果的な正則化として機能するか？
• RQ4 提案フレームワークは、最小限のハイパーパrameterチューニングで、さまざまなデータセットに対して強い性能を維持するか。これは、高い一般化能力を示唆する。
• RQ5 各部品（例：CL損失、AET損失、変換アンサンブル）が全体の性能向上に果たす相対的寄与度はどの程度か？

主な発見

• CIFAR-10では、250枚のラベル付き画像での誤差率を7.6%まで低下させ、MixMatchベースライン（11.08%）と比較して3.48%の改善を達成した。
• わずか50枚のラベル付き画像での誤差率は16.45%に留まり、1,000枚のラベルで学習された多くの先行手法を上回った。
• SVHNでは、100枚のラベルで16.92%の誤差率を達成し、1,000枚のラベルで学習された多くの手法を上回った。
• STL-10では、すべての10,000枚のラベル付き画像を用いて4.52%の誤差率を記録し、MixMatchベースラインを大きく上回る新記録を樹立した。
• 教師あり学習においても、ProxylessNAS よりも単純な Wide ResNet-28-2 構造を用いて、CIFAR-10で最先端の性能を達成した。
• アブレーションスタディの結果、変換アンサンブルとAET損失が最も重要なコンポONENTであり、特にAET損失が性能向上の主な要因であることが確認された。