[論文レビュー] Successive Embedding and Classification Loss for Aerial Image Classification

Jiayun Wang, Patrick Virtue+1 more|arXiv (Cornell University)|Dec 5, 2017

Advanced Neural Network Applications参考文献 36被引用数 7

ひとこと要約

本論文は、分類損失と、ソフトマックスの直前である分類器空間に適用される埋め込み損失を組み合わせた二重損失訓練戦略を提案する。この戦略により、一般化性能が顕著に向上する。分類器空間において、意味的分類とクラス間分離を同時に最適化することで、過学習が軽減され、MSTAR（98.2％のテスト精度）およびAID（VGG16を用いて97.0％）ベンチマークで最先端の性能を達成する。

ABSTRACT

Deep neural networks can be effective means to automatically classify aerial images but is easy to overfit to the training data. It is critical for trained neural networks to be robust to variations that exist between training and test environments. To address the overfitting problem in aerial image classification, we consider the neural network as successive transformations of an input image into embedded feature representations and ultimately into a semantic class label, and train neural networks to optimize image representations in the embedded space in addition to optimizing the final classification score. We demonstrate that networks trained with this dual embedding and classification loss outperform networks with classification loss only. %We also study placing the embedding loss on different network layers. We also find that moving the embedding loss from commonly-used feature space to the classifier space, which is the space just before softmax nonlinearization, leads to the best classification performance for aerial images. Visualizations of the network's embedded representations reveal that the embedding loss encourages greater separation between target class clusters for both training and testing partitions of two aerial image classification benchmark datasets, MSTAR and AID. Our code is publicly available on GitHub.

研究の動機と目的

• 限られた訓練データと訓練環境とテスト環境の間のドメインシフトによる空中画像分類における過学習を解消する。
• 標準的な分類損失を超えて、判別性の高い特徴表現を強化することで、深層ニューラルネットワークの一般化性能を向上させる。
• 埋め込み損失を適用する最適な位置（特徴空間対分類器空間）を特定し、より高いロバスト性と精度を実現する。
• SARおよび空中シーン分類の文脈において、異なる埋め込み損失関数（対照的損失、センター損失）の有効性を評価する。
• 埋め込み損失を分類器空間に移動させることで、より優れた性能が得られることを実証する。

提案手法

• 標準的な交差エントロピー分類損失に加え、対照的損失またはセンター損失を追加する二重目的で深層ニューラルネットワークを訓練する。
• 埋め込み損失を、ソフトマックス非線形性の直前の線形投影層（分類器空間）に特に適用する。これにより、初期の特徴空間ではなく分類器空間に適用する。
• 対照的損失を用いて、分類器空間におけるクラス間マージンを最大化し、クラス内分散を最小化する。
• センター損失を用いて、同じクラスの特徴を分類器空間におけるクラス中心に引き寄せる。
• 確率的勾配降下法を用いて、分類損失と埋め込み損失の両方をエンドツーエンドで最適化する。
• 分類器空間における埋め込み表現を可視化し、クラスタ分離度とクラス内compactnessを分析する。

実験結果

リサーチクエスチョン

• RQ1 特徴空間ではなく分類器空間に埋め込み損失を適用することで、空中画像分類における一般化性能が向上するか？
• RQ2 埋め込み損失関数の選択（対照的損失対センター損失）が、SARおよび空中シーン認識における分類精度と外れ値の排除に与える影響は？
• RQ3 二重損失戦略は、ドメインシフトやデータ拡張が行われる状況下でも、訓練精度とテスト精度の差を小さくできるか？
• RQ4 埋め込み損失を分類器空間に移動させることで、最終表現におけるクラスタ分離度が向上し、クラス内分散が減少するか？
• RQ5 MSTARやAIDといったベンチマークデータセットにおいて、二重損失アプローチがどれほど性能を向上させるか？

主な発見

• 分類器空間に埋め込み損失を適用した場合、SARデータセットMSTARでは98.2％のテスト精度を達成し、分類損失のみのベースライン（91.4％）を顕著に上回る。
• 空中シーン分類データセットAIDでは、分類器空間にセンター損失を適用した二重損失手法が、VGG16を用いて97.0％の精度を達成し、ベースライン比2％の向上を示す。
• 分類器空間に適用した対照的損失は、90％の検出率で20.5％の誤報確率にまで低下させ、センター損失や特徴空間への埋め込み損失適用を上回る性能を示す。
• 可視化結果から、分類器空間における埋め込み損失は、特にテストサンプルにおいてクラス間分離を高め、クラス内分散を低減することが明らかになった。
• 過学習が軽減されており、訓練精度とテスト精度の差が小さくなっていることから、データ拡張やドメインシフトに対してよりロバストであることが裏付けられた。
• 特徴空間にセンター損失を適用しても性能向上は見られず、一方で分類器空間に同じ損失を適用した場合、両データセットで一貫した向上が得られた。