[論文レビュー] Places205-VGGNet Models for Scene Recognition

Limin Wang, Sheng Guo+2 more|arXiv (Cornell University)|Aug 7, 2015

Advanced Neural Network Applications参考文献 12被引用数 133

ひとこと要約

この論文では、マルチGPU Caffe拡張を用いて大規模なPlaces205シーンデータセット上で訓練された、VGGNet-11、-13、-16からなるPlaces205-VGGNetモデルを提示する。これらのモデルは、Places205、MIT67、SUN397ベンチマークで最先端の性能を達成しており、Places205ではトップ1正解率60.6%、MIT67では82.0%を記録した。公開され、シーン認識研究の前進を図る。

ABSTRACT

VGGNets have turned out to be effective for object recognition in still images. However, it is unable to yield good performance by directly adapting the VGGNet models trained on the ImageNet dataset for scene recognition. This report describes our implementation of training the VGGNets on the large-scale Places205 dataset. Specifically, we train three VGGNet models, namely VGGNet-11, VGGNet-13, and VGGNet-16, by using a Multi-GPU extension of Caffe toolbox with high computational efficiency. We verify the performance of trained Places205-VGGNet models on three datasets: MIT67, SUN397, and Places205. Our trained models achieve the state-of-the-art performance on these datasets and are made public available.

研究の動機と目的

• シーン認識タスクにおけるImageNetで事前学習されたVGGNetsの性能が低い問題に対処すること。
• より良いシーン理解を実現するため、特定にPlaces205データセット上で深層VGGNetアーキテクチャを訓練すること。
• 大規模なシーンデータセット向けに、マルチGPU Caffeを用いた高効率なトレーニングパイプラインを開発すること。
• MIT67 や SUN397 のような転移学習ベンチマークにおける特徴量の一般化性能を評価すること。
• 今後のシーン認識研究を加速させるために、事前学習済みモデルを公開すること。

提案手法

• マルチGPU拡張版Caffeを用いて、Places205データセット上でVGGNet-11、-13、-16アーキテクチャを高計算効率で訓練する。
• より深いネットワーク（VGGNet-13 および -16）を、事前学習済みのVGGNet-11の重みで初期化することで収束性と性能を向上させる。
• 一般化性能を向上させるために、マルチスケールクロッピングおよびコーナークロッピングのデータオーグメンテーション技術を適用する。
• バッチサイズ256、モーメンタム0.9、重み減衰（L2ペナルティ = 0.0005）、全結合層でのドロップアウト（比率0.5）を用い、過学習を軽減するミニバッチ勾配降下法を採用する。
• 入力画像を256×256にリサイズし、複数のスケールと位置から224×224にランダムクロッピングし、データオーグメンテーションとして水平反転を適用する。
• 推論時におけるマルチビュー分類を採用：1枚の画像に対して10枚のクロップ（4コーナー、中央、水平反転）を用い、最終予測を10スコアの平均として算出する。

実験結果

リサーチクエスチョン

• RQ1 Places205データセットでファインチューニングされたVGGNetアーキテクチャは、ImageNetで事前学習されたモデルよりもシーン認識タスクで優れた性能を示せるか？
• RQ2 VGGNet-11、-13、-16は、Places205データセット上で訓練された場合、シーン認識タスクでどのように性能を発揮するか？
• RQ3 Places205で学習した特徴量は、MIT67 や SUN397 のような他のシーン認識ベンチマークにどの程度一般化されるか？
• RQ4 大規模なシーンデータセット上で深層VGGNetsを訓練するにあたり、どのトレーニング技術とデータオーグメンテーション戦略が最も効果的か？
• RQ5 Places205で訓練された事前学習済みVGGNetモデルを公開することで、シーン認識研究の進展が加速するか？

主な発見

• Places205-VGGNet-16モデルは、Places205バリデーションセットでトップ1正解率60.6%、トップ5正解率88.5%を達成し、AlexNet、GoogLeNet、CNDS-8を上回った。
• MIT67ベンチマークでは、Places205-VGGNet-11モデルがトップ1正解率82.0%を記録し、すべての先行公開モデル（ImageNet-VGGNet-16 67.7%を含む）を上回った。
• SUN397データセットでは、Places205-VGGNet-16モデルがトップ1正解率66.9%を達成し、比較対象のすべてのモデルの中で最高だった。
• MIT67およびSUN397の両ベンチマークにおいて、Places205-VGGNet特徴量の転移性能は、Places205-AlexNet、-GoogLeNet、-CNDS-8を含む他のモデルと比較して一貫して優れていた。
• VGGNet-16のトレーニングプロセスは、4台のGTX Titan-X GPUを用いて約2週間で実施され、マルチGPU Caffe拡張を用いた大規模トレーニングの実現可能性を示した。
• 著者らは、研究の支援を目的に、GitHub上で訓練済みモデルを公開しており、これによりシーン認識タスクにおけるオフザシェル特徴抽出と転移学習が可能になった。