[論文レビュー] Contrastive-center loss for deep neural networks

Ce Qi, Fei Su|arXiv (Cornell University)|Jul 24, 2017

Face recognition and analysis参考文献 17被引用数 14

ひとこと要約

この論文は、クラス内特徴の凝集性とクラス間分離性を同時に最適化することで、特徴の識別性を向上させる、深層ニューラルネットワークのための新しい補助損失関数「対照的センター損失」を提案する。クラス中心への距離と非該当クラス中心への距離をペナルティ化することで、事前に選択されたトリプレットやペアを必要とせず、CIFAR-10およびLFWで最先端の結果を達成し、画像分類および顔認識の性能を向上させる。

ABSTRACT

The deep convolutional neural network(CNN) has significantly raised the performance of image classification and face recognition. Softmax is usually used as supervision, but it only penalizes the classification loss. In this paper, we propose a novel auxiliary supervision signal called contrastivecenter loss, which can further enhance the discriminative power of the features, for it learns a class center for each class. The proposed contrastive-center loss simultaneously considers intra-class compactness and inter-class separability, by penalizing the contrastive values between: (1)the distances of training samples to their corresponding class centers, and (2)the sum of the distances of training samples to their non-corresponding class centers. Experiments on different datasets demonstrate the effectiveness of contrastive-center loss.

研究の動機と目的

• 標準のソフトマックス損失には、分類精度の最適化のみで特徴の凝集性や分離性を明示的に強制しないという限界があることに対処する。
• センター損失には、クラス内凝集性を向上させるが、クラス間分離性を無視するという欠点があることに対処する。
• 深層特徴におけるクラス内凝集性とクラス間分離性を同時に向上させる訓練信号を開発する。
• 対照的損失やトリプレット損失とは異なり、事前に訓練用トリプレットやペアを選択する必要のない、実装が簡単な損失関数を設計する。
• 画像分類および顔認識のベンチマークデータセットにおいて、提案手法の有効性を実証的に検証する。

提案手法

• 対照的センター損失は、2つの成分の和として定義される：(1) 各サンプルからその対応するクラス中心までの平均距離、(2) 各サンプルからすべての非該当クラス中心までの距離の和。
• 損失関数は $ L_{ct-c} = \frac{1}{2} \frac{1}{m} \big( \text{sum of } ||x_i - c_{y_i}||_2^2 \big) + \frac{1}{2} \frac{1}{m} \big( \text{sum of } \text{sum}_{j \neq y_i} ||x_i - c_j||_2^2 \big) $ として定式化される。ここで $ x_i $ は特徴ベクトル、$ c_{y_i} $ は真のクラス中心、$ c_j $ は他のクラス中心を表す。
• 総訓練損失は、標準のソフトマックス損失 $ L_s $ と対照的センター損失 $ L_{ct-c} $ を、バランス調整ハイパーパramータ $ \rho $ を用いて結合する：$ L = L_s + \rho L_{ct-c} $。
• クラス中心は、特徴マップおよび中心計算の逆誤差伝搬を経て、確率的勾配降下法を用いて訓練中に更新される。
• 本手法は、ハードトリプレットやペアの事前処理やサンプリングを必要とせず、エンドツーエンドで深層畳み込みニューラルネットワークに適用可能である。
• 本手法は、標準的なデータオーグメンテーションと評価プロトコルを用いて、MNIST、CIFAR-10、LFWで評価された。

実験結果

リサーチクエスチョン

• RQ1 複雑なサンプリング戦略を必要とせずに、統一された損失関数が、深層特徴におけるクラス内凝集性とクラス間分離性を向上させられるか？
• RQ2 対照的センター損失は、センター損失と比較して、特徴の識別性および分類精度においてどのように異なるか？
• RQ3 提案された損失は、標準のソフトマックス学習と比較して、標準的な画像分類および顔認識ベンチマークでの性能を向上させるか？
• RQ4 ハードサンプルマイニングを必要とせず、最小限のアーキテクチャ変更で、対照的センター損失が最先端の性能を達成できるか？
• RQ5 対照的センター損失は、特徴の可視化およびクラス中心の分布にどのような影響を与えるか？

主な発見

• CIFAR-10では、対照的センター損失は標準のソフトマックス学習に比べ1.2%の分類精度向上を達成し、センター損失に比べ0.35%の優位性を示した。
• 20層のResNetを用いた場合、対照的センター損失はCIFAR-10で92.45%の精度を達成したのに対し、標準のソフトマックス学習では91.25%、センター損失では92.1%であった。
• LFWデータセットでは、対照的センター損失により認証精度が98.68%に向上し、ベースラインのソフトマックスモデル（97.47%）を1.21ポイント上回った。
• LFWでは、センター損失のリリース済みモデル [13] よりも0.25ポイント、著者自身のセンター損失再実装よりも0.13ポイントの優位性を示した。
• CASIA-WebFaceから455,594枚の画像のみを用いても、LFWで最先端の性能を達成しており、限られたデータでも有効性が示された。
• 可視化結果から、対照的センター損失で学習された特徴は、ベースラインおよびセンター損失と比較して、より凝集したクラス内クラスタリングと広いクラス間マージンを示した。