[論文レビュー] Unsupervised feature learning by augmenting single images

Alexey Dosovitskiy, Jost Tobias Springenberg+1 more|arXiv (Cornell University)|Dec 19, 2013

Advanced Image and Video Retrieval Techniques被引用数 5

ひとこと要約

この論文では、ランダムな画像パッチを単一画像の代替クラスとして扱うことにより、データ拡張をコアな学習信号とする自己教師あり特徴学習手法を提案する。これらのパッチに多様な変換を適用し、CNNがそれらを区別するように訓練することで、ラベルなしのデータを用いても、STL-10、CIFAR-10、Caltech-101で競争力ある性能を達成する強力で転移可能な特徴を学習する。

ABSTRACT

When deep learning is applied to visual object recognition, data augmentation is often used to generate additional training data without extra labeling cost. It helps to reduce overfitting and increase the performance of the algorithm. In this paper we investigate if it is possible to use data augmentation as the main component of an unsupervised feature learning architecture. To that end we sample a set of random image patches and declare each of them to be a separate single-image surrogate class. We then extend these trivial one-element classes by applying a variety of transformations to the initial 'seed' patches. Finally we train a convolutional neural network to discriminate between these surrogate classes. The feature representation learned by the network can then be used in various vision tasks. We find that this simple feature learning algorithm is surprisingly successful, achieving competitive classification results on several popular vision datasets (STL-10, CIFAR-10, Caltech-101).

研究の動機と目的

• データ拡張が自己教師あり特徴学習の主な信号として機能できるかを検討すること。
• 物体認識タスクにおいてラベルなしデータから豊かな視覚的表現を学ぶ課題に取り組むこと。
• 画像変換を活用して代替クラスを生成する、シンプルでありながら効果的なアーキテクチャを構築すること。
• この手法で学習された特徴の転移性と、標準ベンチマークデータセットにおける性能を評価すること。

提案手法

• 訓練画像からランダムにパッチを抽出し、個々の1要素クラスとして扱い、代替クラスを形成する。
• 各パッチに対して、色のジャイタ、クロップ、フリップなどの多様な変換を適用し、同じパッチの複数のビューを生成する。
• 畳み込みニューラルネットワークを、これらの変換済みパッチをその対応する代替クラスに分類するように訓練し、対照学習により不変な特徴を学習する。
• 訓練済みネットワークから抽出された特徴表現を、線形プローブを用いた下流分類タスクで評価する。
• 本手法はデータ拡張に依存しており、明示的なノイズ注入や複雑な対照的目的関数を必要としない。

実験結果

リサーチクエスチョン

• RQ1 データ拡張のみが自己教師あり特徴学習の主な監視信号として機能できるか？
• RQ2 単一画像パッチの拡張に基づく自己教師あり手法は、既存の対照的または予測的事前学習手法と比較してどの程度効果的か？
• RQ3 この手法で学習された特徴は、標準ベンチマークの下流ビジョンタスクにどの程度一般化できるか？

主な発見

• 本手法は、データ拡張による自己教師あり事前学習のみを用いても、STL-10、CIFAR-10、Caltech-101で競争力ある分類精度を達成する。
• 各パッチを別々のクラスとして扱うという単純さにもかかわらず、モデルは頑健で転移可能な特徴を学習する。
• より複雑な自己教師あり手法と同等の性能を示しており、拡張が主な学習信号として有効であることを示している。
• 異なるデータセットにわたって良好に一般化されることから、優れた特徴品質と不変性学習の能力が裏付けられる。