[論文レビュー] Focal Loss for Dense Object Detection

Tsung-Yi Lin, Priya Goyal+3 more|arXiv (Cornell University)|Aug 7, 2017

Advanced Neural Network Applications参考文献 29被引用数 1,337

ひとこと要約

焦点損失を導入し、一段検出器における極端なクラス不均衡を解決し、RetinaNetが以前の最先端検出器を凌ぎつつ速度を維持する。

ABSTRACT

The highest accuracy object detectors to date are based on a two-stage approach popularized by R-CNN, where a classifier is applied to a sparse set of candidate object locations. In contrast, one-stage detectors that are applied over a regular, dense sampling of possible object locations have the potential to be faster and simpler, but have trailed the accuracy of two-stage detectors thus far. In this paper, we investigate why this is the case. We discover that the extreme foreground-background class imbalance encountered during training of dense detectors is the central cause. We propose to address this class imbalance by reshaping the standard cross entropy loss such that it down-weights the loss assigned to well-classified examples. Our novel Focal Loss focuses training on a sparse set of hard examples and prevents the vast number of easy negatives from overwhelming the detector during training. To evaluate the effectiveness of our loss, we design and train a simple dense detector we call RetinaNet. Our results show that when trained with the focal loss, RetinaNet is able to match the speed of previous one-stage detectors while surpassing the accuracy of all existing state-of-the-art two-stage detectors. Code is at: https://github.com/facebookresearch/Detectron.

研究の動機と目的

• 密集型の1段検出器における精度低下の主な原因を特定する。
• 前景と背景の不均衡に対処するため、難しい例に学習を集中させる損失関数を提案する。
• シンプルでありながら効果的な1段検出器（RetinaNet）を設計し、最先端の精度を達成する。
• 焦点損失が高速推論速度を維持しつつ、競争力のあるまたは優れた精度を可能にすることを示す。

提案手法

• 焦点損失を FL(p_t) = -alpha_t (1 - p_t)^gamma log(p_t) と形式化し、gamma=0 のとき交差エントロピーと同等であることを示す。
• クラス不均衡に対処するためにalpha平衡版を導入する。
• 学習を安定させるために前景確率事前分布 pi で学習を初期化する。
• FPNバックボーン、分類サブネット、ボックス回帰サブネットを備えた RetinaNet を構築し、1段密集検出を行う。
• 分類には focal loss、回帰にはスムーズL1を用い、画像あたり約100kアンカーで SGD によるエンドツーエンド学習を行う。

実験結果

リサーチクエスチョン

• RQ1 焦点損失は密集型の1段検出器における極端な前景-背景の不均衡を緩和できるか。
• RQ2 焦点損失を用いて難しい例に学習を集中させることは、CEおよびOHEMのベースラインと比較してCOCO APを改善するか。
• RQ3 RetinaNetは速度を維持したまま、精度で2段Detectorに匹敵するか、またはそれを上回るか。
• RQ4 この文脈での焦点損失の最適な gamma および alpha の設定は何か。
• RQ5 焦点損失を用いる場合、アンカーと特徴ピラミッドネットワークの設計選択は性能にどのように影響するか。

主な発見

バックボーン	AP	AP 50	AP 75	AP S	AP M	AP L
RetinaNet (ours)	39.1	59.1	42.3	21.8	42.7	50.2
RetinaNet (ours)	40.8	61.1	44.1	24.1	44.2	51.2

• 焦点損失はCEおよびalpha-balanced CEよりも大幅なAPの向上をもたらし、gamma=2 が大きな改善を提供する。
• ResNet-101-FPNを用いた RetinaNet は COCO test-dev で 39.1 AP を達成し、従来の1段検出器や多くの2段検出器を上回る。
• OHEMベースラインと比較して、FLベースの学習はAPでより良く、例えば FL は OHEM 変種を3 APポイント超上回る。
• 焦点損失を用いたシンプルな1段検出器は、競争力のある速度を維持しつつ、精度で最先端の2段検出器に近づくまたはそれを超えることができる。
• この手法は、gamma値の範囲やアンカー構成に対しても頑健で、最良の結果は gamma=2付近、alphaは約0.25である。