[論文レビュー] Towards Accurate One-Stage Object Detection with AP-Loss

Kean Chen, Jianguo Li+7 more|arXiv (Cornell University)|Apr 12, 2019

Advanced Neural Network Applications参考文献 37被引用数 14

ひとこと要約

本論文では、1段階オブジェクト検出器における従来の分類損失に代わる、ランク付けに基づく新しい損失関数AP-lossを提案する。これは、前景・背景クラスの不均衡をより効果的に扱うために考案されたもので、誤差駆動型学習とバックプロパゲーションを組み合わせることで、微分不可能な平均適合率（mAP）損失を最適化する。この手法により、アーキテクチャの変更なしにCOCO、VOC2007、VOC2012のベンチマークで最先端のmAP向上が達成された。

ABSTRACT

One-stage object detectors are trained by optimizing classification-loss and localization-loss simultaneously, with the former suffering much from extreme foreground-background class imbalance issue due to the large number of anchors. This paper alleviates this issue by proposing a novel framework to replace the classification task in one-stage detectors with a ranking task, and adopting the Average-Precision loss (AP-loss) for the ranking problem. Due to its non-differentiability and non-convexity, the AP-loss cannot be optimized directly. For this purpose, we develop a novel optimization algorithm, which seamlessly combines the error-driven update scheme in perceptron learning and backpropagation algorithm in deep networks. We verify good convergence property of the proposed algorithm theoretically and empirically. Experimental results demonstrate notable performance improvement in state-of-the-art one-stage detectors based on AP-loss over different kinds of classification-losses on various benchmarks, without changing the network architectures. Code is available at https://github.com/cccorn/AP-loss.

研究の動機と目的

• 1段階オブジェクト検出器における深刻な前景・背景クラスの不均衡に対処し、分類損失の最適化が偏ることを防ぐ。
• Focal Loss やバランス損失などの既存の分類損失が、サンプルを独立して扱い、手動で調整されたハイパーパrameterに依存するという制限を克服する。
• ペairワイズ比較を通じてサンプル間の関係をモデル化することで、訓練の目的を実際の評価指標（mAP）により近づける。
• 微分不可能で凸でないAP損失に対する効果的な最適化手法を開発する。これは標準的な勾配降下法では扱いにくい。
• 標準的な分類損失をAP損失に置き換えることで、アーキテクチャの変更なしに複数のベンチマークで一貫した性能向上を示す。

提案手法

• アノテーション間のペアワイズ比較のスコアを出力するランクリングヘッドに、1段階検出器の分類ヘッドを置き換える。
• AP損失を、ペアワイズスコア差から導出される主項と、正例ラベルベクトルのドット積として構築する。
• AP損失の主項を計算するために、ペアワイズ差に非微分可能な「活性化関数」（ステップ関数）を導入する。
• パーセプトロン学習にインspiredされた、非微分可能な活性化関数を通過する勾配を伝搬するための新しい誤差駆動型更新スキームを提案する。
• 誤差駆動型更新とバックプロパゲーションを組み合わせ、ネットワーク重みへの勾配伝搬を可能にし、エンドツーエンド学習を実現する。
• アブレーションスタディでは、近似勾配法との比較のため、ステップ関数の滑らかな近似（シグモイド）を用いるが、本手法では誤差駆動型更新を用いる非微分可能な正確な形を採用する。

実験結果

リサーチクエスチョン

• RQ1 1段階検出器において分類タスクをランク付けタスクに置き換えることで、一般化性能とmAP性能が向上するか？
• RQ2 勾配ベースのディープラーニングフレームワークを用いて、非微分可能な平均適合率（AP）損失を効果的に最適化できるか？
• RQ3 提案された誤差駆動型最適化スキームは、近似勾配法や構造的ハードマージン損失法と比較して、収束性および最終性能で優れているか？
• RQ4 AP損失は、アーキテクチャの変更なしに、COCO、VOC2007、VOC2012といった多様なベンチマークで検出性能を向上させるか？
• RQ5 提案手法は、ベースライン検出器と同等の推論速度を維持しながら、最先端の結果を達成できるか？

主な発見

• AP損失手法は、ベースラインのRetinaNet500（Focal Loss使用）と比較して、COCOテストデブセットで3.0%のmAP向上を達成し、mAPは42.1%に到達した（ベースラインは37.4%）。
• VOC2007では45.0%のmAPを達成し、ベースラインのRetinaNet500（38.5%）および比較された他のすべての1段階検出器を上回った。
• VOC2012では45.1%のmAPを達成し、最良のベースライン（RefineDet512 + ResNet-101、45.7% mAP）を上回り、一貫した性能向上を示した。
• 誤差駆動型最適化スキームは、近似勾配法や構造的ハードマージン損失法よりも収束が早く、最終的な性能も優れており、これらは収束しないか、真のAP損失の限界に達しないで停滞した。
• 推論速度はベースラインのRetinaNetと同等（Titan X上で約11 fps）を維持しており、損失関数の変更による計算オーバーヘッドがないことが確認された。
• 性能向上は、可変コンvolutionやSNIPといった高度な技術を用いずに、分類損失をAP損失に置き換えることでのみ達成されており、本手法の独立した強力な有効性を示している。