[논문 리뷰] Focal Loss for Dense Object Detection

Tsung-Yi Lin, Priya Goyal외 3명|arXiv (Cornell University)|2017. 08. 07.

Advanced Neural Network Applications참고 문헌 29인용 수 1,337

한 줄 요약

단일 스테이지 탐지기에서 극단적인 클래스 불균형을 해결하기 위해 Focal Loss를 도입하여 RetinaNet이 속도 유지하면서 이전 최첨단 탐지기를 능가하도록 함.

ABSTRACT

The highest accuracy object detectors to date are based on a two-stage approach popularized by R-CNN, where a classifier is applied to a sparse set of candidate object locations. In contrast, one-stage detectors that are applied over a regular, dense sampling of possible object locations have the potential to be faster and simpler, but have trailed the accuracy of two-stage detectors thus far. In this paper, we investigate why this is the case. We discover that the extreme foreground-background class imbalance encountered during training of dense detectors is the central cause. We propose to address this class imbalance by reshaping the standard cross entropy loss such that it down-weights the loss assigned to well-classified examples. Our novel Focal Loss focuses training on a sparse set of hard examples and prevents the vast number of easy negatives from overwhelming the detector during training. To evaluate the effectiveness of our loss, we design and train a simple dense detector we call RetinaNet. Our results show that when trained with the focal loss, RetinaNet is able to match the speed of previous one-stage detectors while surpassing the accuracy of all existing state-of-the-art two-stage detectors. Code is at: https://github.com/facebookresearch/Detectron.

연구 동기 및 목표

• Dense one-stage 탐지기의 정확도가 낮은 주요 원인을 식별한다.
• 전경-배경 불균형을 다루기 위해 학습을 어려운 예에 집중시키는 손실함수를 제안한다.
• 상태-of-the-art 정확도를 달성하는 간단하지만 효과적인 one-stage 탐지기(RetinaNet)를 설계한다.
• Focal loss가 빠른 추론 속도를 유지하면서 경쟁력 있거나 우수한 정확도를 가능하게 함을 입증한다.

제안 방법

• Focal loss를 FL(p_t) = -alpha_t (1 - p_t)^gamma log(p_t)로 форм화하고 gamma=0일 때 cross-entropy와의 등가를 보인다.
• 클래스 불균형을 다루기 위한 alpha-균형 변형을 도입한다.
• 학습을 안정화하기 위해 전경 확률 사전 pi로 학습을 초기화한다.
• FPN 백본, 분류 서브넷, 박스 회귀 서브넷으로 구성된 RetinaNet을 one-stage dense detection에 맞게 구축한다.
• 학습은 SGD로 ~100k anchors per image에서 엔드투엔드로 수행하며 분류에는 focal loss를, 회귀에는 smooth L1을 사용한다.

실험 결과

연구 질문

• RQ1 Focal loss가 dense one-stage detectors에서 극단적인 전경-배경 불균형을 완화할 수 있는가?
• RQ2 Focal loss를 통해 hard-examples에 학습을 집중시키면 CE 및 OHEM 기반 기준선보다 COCO AP를 향상시키는가?
• RQ3 RetinaNet이 속도를 유지하면서 정확도에서 2단계 탐지기와 일치하거나 초과할 수 있는가?
• RQ4 이 맥락에서 focal loss의 최적 gamma 및 alpha 설정은 무엇인가?
• RQ5 앵커 및 피처 피라미드 네트워크의 설계 선택이 focal loss를 사용할 때 성능에 어떤 영향을 미치는가?

주요 결과

백본	AP	AP 50	AP 75	AP S	AP M	AP L
RetinaNet (ours)	39.1	59.1	42.3	21.8	42.7	50.2
RetinaNet (ours)	40.8	61.1	44.1	24.1	44.2	51.2

• Focal loss는 CE 및 alpha-balanced CE 대비 상당한 AP 이득을 제공하며, gamma=2에서 강한 개선을 보인다.
• RetinaNet with ResNet-101-FPN은 COCO test-dev에서 39.1 AP를 달성하여 이전의 단일 스테이지 및 다수의 이중 스테이지 방법을 능가한다.
• OHEM 기준선과 비교할 때 FL 기반 학습은 AP에서 더 나은 성능을 보인다(예: FL이 OHEM 변형보다 3 AP 포인트 이상 우수).
• 간단한 one-stage detector가 focal loss를 사용해 이목표의 두 단계 탐지기와의 정확도 차이를 좁히거나 능가하면서도 경쟁력 있는 속도를 유지할 수 있다.
• 메서드는 gamma 값 범위와 앵커 설정에 대해 견고하게 작동하며, gamma=2에 가깝고 alpha가 약 0.25일 때 최적의 결과를 보인다.