[論文レビュー] Billion-scale semi-supervised learning for image classification

İsmet Zeki Yalnız, Hervé Jeǵou+3 more|arXiv (Cornell University)|May 2, 2019

Advanced Image and Video Retrieval Techniques参考文献 42被引用数 331

ひとこと要約

この論文は、教師-学生パイプラインを用いて何十億の未ラベル画像にも対応する半教師あり学習を拡張し、ResNet-50やResNeXtのような大規模アーキテクチャで画像分類精度を向上させ、ImageNetや他のタスクで最先端の結果を達成します。

ABSTRACT

This paper presents a study of semi-supervised learning with large convolutional networks. We propose a pipeline, based on a teacher/student paradigm, that leverages a large collection of unlabelled images (up to 1 billion). Our main goal is to improve the performance for a given target architecture, like ResNet-50 or ResNext. We provide an extensive analysis of the success factors of our approach, which leads us to formulate some recommendations to produce high-accuracy models for image classification with semi-supervised learning. As a result, our approach brings important gains to standard architectures for image, video and fine-grained classification. For instance, by leveraging one billion unlabelled images, our learned vanilla ResNet-50 achieves 81.2% top-1 accuracy on the ImageNet benchmark.

研究の動機と目的

• ウェブ全体規模での画像分類のための半教師あり学習を動機づけ評価する。
• 何十億の未ラベル画像を活用するスケーラブルな教師/学生パイプラインを開発する。
• 高精度モデルのための実用的な推奨を提供する要因を特定する。

提案手法

• ラベル付きデータで高容量の教師モデルを訓練して、巨大な未ラベルデータセットに対する予測を生成する。
• 各クラスについて、教師の予測で未ラベル画像をランキングし、トップKの例を選択して新しいラベル付きセット hat{D} を形成する。
• hat{D} で学生モデルを訓練し、テスト時の計算量を削減するために別のアーキテクチャを使用することもある。
• 元のラベル付きデータで学生をファインチューニングして、ラベリングノイズを修正し一般化を改善する。
• オプションとして、ランキング前に大規模な弱教師付きデータで教師を弱監視で事前訓練する。

実験結果

リサーチクエスチョン

• RQ1 大規模なCNNアーキテクチャへスケールしたとき、教師-学生半教師ありパイプラインは何十億の未ラベル画像に対してどのように機能するか。
• RQ2 精度向上を最大化する要因（教師の強さ、未ラベルデータ規模、サンプリングパラメータ K および P）は何か。
• RQ3 未ラベルデータを用いた半教師あり学習は、ImageNetや他のベンチマークで標準アーキテクチャの完全教師あり学習を上回る利点を提供できるか。
• RQ4 未ラベルデータから推定ラベルを利用した後の真のラベルでのファインチューニングの役割は何か。
• RQ5 教師の弱監視による事前訓練は結果をさらに改善するか。

主な発見

• ラベル付きデータで訓練された教師を使ってクラスごとにトップ-K 未ラベル例を選択すると、固定アーキテクチャに対して強い利得が得られる。
• hat{D} から学習した後で真のラベルデータで学生をファインチューニングすることは、高精度を達成するために重要である。
• より大きな未ラベルデータセットと長い事前訓練は性能を向上させるが、モデルによっては飽和点を超えると利得が低下する。
• 教師の容量をある点まで増やすと学生の精度が向上するが、ImageNetの規模制限によりそれを超えると利得が頭打ちになる。
• 自己訓練（教師と学生が同じ）も改善をもたらすが、特定のターゲットアーキテクチャに対しては通常、教師/学生の組み合わせの方が良い。
• IG-1B-Targeted での弱監視による教師の事前訓練は、未ラベルデータをランキングする前に ImageNet の結果をさらに向上させ、いくつかのアーキテクチャで最先端を達成する。