[論文レビュー] Learning Discriminative Features via Label Consistent Neural Network

Zhuolin Jiang, Yaming Wang+3 more|arXiv (Cornell University)|Feb 3, 2016

Human Pose and Action Recognition参考文献 37被引用数 5

ひとこと要約

本論文では、特徴の識別性を向上させるために、後段の隠れ層でラベルの一貫性を強制する新しい「識別的表現誤差損失」を用いた、ラベル一貫性ニューラルネットワーク（LCNN）という深層学習フレームワークを提案する。この損失を標準的な分類損失と組み合わせることで、収束速度の向上、消失勾配の低減、およびアクション認識およびオブジェクト認識ベンチマークで最先端の性能を達成する。これは、学習済み特徴に対して単純なk-NN分類器を用いても成立する。

ABSTRACT

Deep Convolutional Neural Networks (CNN) enforces supervised information only at the output layer, and hidden layers are trained by back propagating the prediction error from the output layer without explicit supervision. We propose a supervised feature learning approach, Label Consistent Neural Network, which enforces direct supervision in late hidden layers. We associate each neuron in a hidden layer with a particular class label and encourage it to be activated for input signals from the same class. More specifically, we introduce a label consistency regularization called "discriminative representation error" loss for late hidden layers and combine it with classification error loss to build our overall objective function. This label consistency constraint alleviates the common problem of gradient vanishing and tends to faster convergence; it also makes the features derived from late hidden layers discriminative enough for classification even using a simple $k$-NN classifier, since input signals from the same class will have very similar representations. Experimental results demonstrate that our approach achieves state-of-the-art performances on several public benchmarks for action and object category recognition.

研究の動機と目的

• 標準的なCNNでは、隠れ層に明示的な教師信号がなく、特に訓練データが限られた場合に消失勾配や収束の遅さを抱えるという制限を解消すること。
• 後段の隠れ層で学習される特徴の識別力を、ニューロンをクラスラベルに直接関連付けることで向上させること。
• 表現をクラス固有かつコンパクトにすることで、後段の隠れ層からの特徴のみを用いても、単純なk-NN分類器で高精度な分類が可能になるようにすること。
• 既存の深層ネットワークアーキテクチャに容易に統合可能な汎用的な手法を提供し、視覚タスクにおける性能を向上させること。

提案手法

• 各ニューロンが関連するクラスラベルの入力からのみ活性化されるよう促す「識別的表現誤差損失」を導入する。
• 隠れ層の各ニューロンを特定のクラスに関連付け、異なるクラスからの入力による活性化をペナルティ化することで、ラベルの一貫性を強制する。
• 識別的表現誤差損失と標準的な交差エントロピー分類損失を組み合わせ、エンドツーエンド学習用の共同目的関数を構築する。
• ハイパーパramータを調整して正則化強度を最適化し、後段の全結合層および畳み込み層（例：fc7、Pool5）にこの手法を適用する。
• ベースラインネットワーク（例：GoogLeNet、AlexNet、VGGNet）と同一の訓練プロトコルを用いるが、特徴品質の向上を図るためにラベル一貫性の教師信号を追加する。
• 標準的なバックプロパゲーションを、組み合わせ損失関数とともに用いることで、任意の既存のCNNフレームワークへの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ラベルの一貫性による後段の隠れ層特徴の明示的教師信号が、画像および動画認識タスクの分類性能を向上させるか？
• RQ2 隠れ層におけるラベルの一貫性の強制が、消失勾配問題を緩和し、学習収束を加速させるか？
• RQ3 後段の隠れ層からの特徴のみで、k-NNのような単純な分類器が強力な性能を達成できるか？これは特徴の高い内在的識別性を示唆する。
• RQ4 限られた訓練データでの条件下で、提案手法は最先端のアプローチと比較して優れているか？

主な発見

• LCNN-2は、VGGNet-16バックボーンを用いてCaltech101データセットで93.7％のトップ-1精度を達成し、ベースラインの微調整済みVGGNet-16（92.5％）を上回り、先行する最先端手法（LC-KSVD：73.6％、He et al.：91.44％）をも凌駕した。
• ImageNetでは、LCNN-2が同じ設定でスクラッチから学習した際、ベースラインのGoogLeNet実装よりも高いトップ-1およびトップ-5精度を達成した。
• LCNNの後段の隠れ層からの特徴は、Caltech101でk-NN分類器を用いて89.45％の精度を達成し、その高い内在的識別性を示した。
• ラベル一貫性制約により、消失勾配の影響が低減され、特にデータが少ない条件下でも収束が速く、性能が向上した。
• アクション認識およびオブジェクト認識ベンチマークの両方で、LCNNは複数の最先端手法を上回り、多様な視覚タスクにわたる有効性を確認した。