[論文レビュー] Learning To Classify Images Without Labels.

Wouter Van Gansbeke, Simon Vandenhende+3 more|arXiv (Cornell University)|May 25, 2020

Domain Adaptation and Few-Shot Learning被引用数 12

ひとこと要約

本論文は、自己教師あり表現学習と学習可能なクラスタリングを分離することで、ラベルなしで最先端の性能を達成する2段階の教師なし画像分類手法を提案する。CIFAR10では+26.6%、CIFAR100-20では+25.0%、STL10では+21.3%の精度向上を達成し、ゼロショット設定でImageNetにおいても強力な結果を初めて得た。

ABSTRACT

Can we automatically group images into semantically meaningful clusters when ground-truth annotations are absent? The task of unsupervised image classification remains an important, and open challenge in computer vision. Several recent approaches have tried to tackle this problem in an end-to-end fashion. In this paper, we deviate from recent works, and advocate a two-step approach where feature learning and clustering are decoupled. First, a self-supervised task from representation learning is employed to obtain semantically meaningful features. Second, we use the obtained features as a prior in a learnable clustering approach. In doing so, we remove the ability for cluster learning to depend on low-level features, which is present in current end-to-end learning approaches. Experimental evaluation shows that we outperform state-of-the-art methods by large margins, in particular +26.6% on CIFAR10, +25.0% on CIFAR100-20 and +21.3% on STL10 in terms of classification accuracy. Furthermore, our method is the first to perform well on a large-scale dataset for image classification. In particular, we obtain promising results on ImageNet, and outperform several semi-supervised learning methods in the low-data regime without the use of any ground-truth annotations. The code is made publicly available at this https URL.

研究の動機と目的

• 教師付きアノテーションが存在しない状況における教師なし画像分類の未解決課題に取り組む。
• 特徴学習とクラスタ最適化を分離することでクラスタリング性能を向上させ、低レベル特徴に依存することを回避する。
• CIFAR10、CIFAR100-20、STL10といった標準ベンチマークで、ラベルデータを一切使用せずに最先端の精度を達成する。
• ゼロショット設定において、ImageNetのような大規模データセットに対しても強力な性能を拡張する。
• 自己教師あり特徴が教師なし学習におけるクラスタリングの強力な事前知識として機能できることを示す。

提案手法

• まず、ラベルなしで画像から意味的に意味のある特徴を抽出するために自己教師あり表現学習を用いる。
• 次に、これらの学習済み特徴を入力として、クラスタ割り当てを最適化する学習可能なクラスタリングモジュールに供給する。
• クラスタリング段階は微分可能でエンドツーエンド学習可能であるが、完全に事前に学習された特徴からの事前知識に依存する。
• 特徴学習とクラスタリングを分離することで、クラスタリングが低レベル画像統計に依存するのを明示的に排除する。
• CIFAR10、CIFAR100-20、STL10、ImageNetを含む標準ベンチマークを用いて評価する。
• 再現性とさらなる研究を促進するために、コードを公開する。

実験結果

リサーチクエスチョン

• RQ1 特徴学習とクラスタリングを分離することで、教師なし画像分類の性能を著しく向上させることができるか？
• RQ2 自己教師あり特徴を事前知識として用いることで、標準ベンチマークにおけるクラスタリング性能が向上するか？
• RQ3 2段階アプローチがゼロショット画像分類において、エンドツーエンド教師なし学習手法を上回ることができるか？
• RQ4 提案手法は、ラベルなしでImageNetのような大規模データセットに対してもスケーラブルか？
• RQ5 低データ環境における半教師あり学習ベースラインと比較して、本手法はどのように性能を発揮するか？

主な発見

• 本手法は、ラベルなしでSOTA手法よりもCIFAR10で+26.6%の精度向上を達成した。
• CIFAR100-20では、既存の教師なしアプローチと比較して+25.0%の精度向上を達成した。
• STL10では、+21.3%の精度向上を達成し、異なるデータセット間での強力な一般化性能を示した。
• ゼロショット設定において、ImageNetで新たなSOTAを樹立し、低データ環境における複数の半教師あり学習手法を上回った。
• 特徴学習とクラスタリングを分離することで、より頑健で意味的に意味のあるクラスタが得られることを示した。
• 本手法は、自己教師あり特徴のみと、教師付きアノテーションなしでImageNetで強力な性能を発揮した初の手法である。