[論文レビュー] Maximum-Entropy Fine-Grained Classification

Abhimanyu Dubey, Otkrist Gupta+2 more|arXiv (Cornell University)|Sep 16, 2018

Machine Learning and Data Classification被引用数 51

ひとこと要約

本論文は、FGVC（Fine-Grained Visual Classification）のための最大エントロピー訓練目的を提案し、データ、ハイパーパラメータ、ラベルノイズに対して頑健でありつつ、複数のFGVCデータセットとアーキテクチャで最先端の結果を示します。

ABSTRACT

Fine-Grained Visual Classification (FGVC) is an important computer vision problem that involves small diversity within the different classes, and often requires expert annotators to collect data. Utilizing this notion of small visual diversity, we revisit Maximum-Entropy learning in the context of fine-grained classification, and provide a training routine that maximizes the entropy of the output probability distribution for training convolutional neural networks on FGVC tasks. We provide a theoretical as well as empirical justification of our approach, and achieve state-of-the-art performance across a variety of classification tasks in FGVC, that can potentially be extended to any fine-tuning task. Our method is robust to different hyperparameter values, amount of training data and amount of training label noise and can hence be a valuable tool in many similar problems.

研究の動機と目的

• FGVCにおいて、視覚的に類似したクラスとデータ不足の状況で一般化を向上させる動機付け。
• CNNの微調整における出力分布エントロピーを正則化項として formalize する。
• エントロピー、特徴の多様性、分類器の重み范数との関係を結ぶ理論的境界を導出する。
• 複数データセットとアーキテクチャで最先端のFGVC性能を実証する。
• ハイパーパラメータ、データ量、ラベルノイズに対する手法の頑健性を示す。

提案手法

• 真のラベルからのKL発散を最小化しつつ出力分布のエントロピーを最大化する微調整目的関数を導入する: minimize E_x[ D_KL( ȳ(x) || p(y|x; θ) ) ] - γ E_x[ H[p(y|x; θ)] ].
• CNNの特徴量上の線形分類器のソフトマックスを介して p(y|x; θ) をモデル化する: p(y_i|x; w, Φ(x)) = exp(w_i^T Φ(x)) / sum_j exp(w_j^T Φ(x)).
• 特徴量多様性 ν(Φ, p_x) を、結合された共分散 Σ* の固有値の和として定義し、ν をノルム ||w||_2 への下限を通じて結びつける。
• エントロピー、多様性、重みノルムを結ぶ理論分析（定理1-2と系数1）を提供し、特に低多様性のFGVC設定でエントロピー正則化を正当化する。
• FGVCデータセット（CUB-200-2011, Cars, Aircrafts, NABirds, Stanford Dogs）とCNNバックボーン（GoogLeNet, ResNet-50, VGGNet16, Bilinear CNN, DenseNet-161）を横断する広範な実験を行う。
• 最大エントロピー微調整を標準的な微調整およびラベル平滑化正則化（LSR）と比較し、FGVCタスクでより大きな利得を示す。

実験結果

リサーチクエスチョン

• RQ1 視覚的多様性が低い場合に、FGVC微調整中の出力分布エントロピー最大化は一般化を改善するか。
• RQ2 出力エントロピー正則化は特徴多様性とどう相互作用し、モデルの複雑さと堅牢性を制約するか。
• RQ3 最大エントロピー微調整は複数アーキテクチャにわたりハイパーパラメータ選択、データ量、ラベルノイズに頑健か。
• RQ4 この手法は従来のFGVC技術や正則化法（例: ラベル平滑化）と比べて標準データセットでどう性能が出るか。

主な発見

• 最大エントロピー訓練は、複数のCNNアーキテクチャにわたり5つのFGVCデータセットで最先端またはほぼ最先端の精度を実現。
• 基盤モデル（例: GoogLeNet, ResNet-50）をImageNetから微調整する際に顕著な利得を提供し、標準的な微調整やLSRと比較してしばしば上回る。
• 最大エントロピー訓練の下では予測対数分布が滑らかになり、確率値のテールが太くなる傾向が見られ、より一般化された意思決定境界を示す。
• pool5特徴の固有値分析は、最大エントロピー時に固有値スペクトルのテールが減少し、学習された特徴の一般性が高まることを示唆。
• ハイパーパラメータ（γ）、ラベルノイズ、データ量に対して頑健であり、訓練クロスエントロピーが増加する一方で検証精度を改善することがある。
• ラベル平滑化正則化と比較して、FGVCタスクでより大きな利得を提供する。