[논문 리뷰] Distribution-Balanced Loss for Multi-Label Classification in Long-Tailed Datasets

Tong Wu, Qingqiu Huang외 3명|arXiv (Cornell University)|2020. 07. 19.

Machine Learning and Data Classification참고 문헌 43인용 수 36

한 줄 요약

긴 꼬리 데이터에서의 다중 라벨 인식을 위한 Distribution-Balanced Loss를 도입하고, 라벨 공출현을 고려한 재균형 가중치와 음수-허용 정규화를 결합하여 음수의 과도한 억제를 줄인다.

ABSTRACT

We present a new loss function called Distribution-Balanced Loss for the multi-label recognition problems that exhibit long-tailed class distributions. Compared to conventional single-label classification problem, multi-label recognition problems are often more challenging due to two significant issues, namely the co-occurrence of labels and the dominance of negative labels (when treated as multiple binary classification problems). The Distribution-Balanced Loss tackles these issues through two key modifications to the standard binary cross-entropy loss: 1) a new way to re-balance the weights that takes into account the impact caused by label co-occurrence, and 2) a negative tolerant regularization to mitigate the over-suppression of negative labels. Experiments on both Pascal VOC and COCO show that the models trained with this new loss function achieve significant performance gains over existing methods. Code and models are available at: https://github.com/wutong16/DistributionBalancedLoss .

연구 동기 및 목표

• 실세계 데이터의 긴 꼬리 분포에서 강건한 다중 라벨 학습을 동기화한다.
• BCE 기반 학습에서 라벨 공출현과 음수 라벨의 우위를 다룬다.
• 재균형 가중치와 음수-허용 정규화를 결합한 손실을 제안한다.
• 표준 긴 꼬리 다중 라벨 벤치마크(VOC-MLT 및 COCO-MLT)에서 성능 향상을 보여준다.

제안 방법

• 샘플링 확률을 조정할 때 라벨 공출현을 고려하는 재균형 가중치를 도입한다(Eq. 3–5).
• 클래스 인식 수준의 샘플링 확률과 인스턴스 수준의 샘플링 확률을 계산하여 내부 클래스 불균형을 완화하는 per-instance, per-class 가중치를 도출한다(Eq. 2–3).
• 음수-허용 정규화(NTR)를 개발하여 클래스 특성 편향과 스케일링을 적용한 BCE를 통해 음수 라벨의 과도한 억제를 방지한다(Eq. 7).
• 재균형 가중치와 NTR를 통합한 분포-균형 손실(DB 손실)을 엔드-투-엔드 학습에 적용한다(Eq. 10).
• 재균형 및 NTR 항의 스무딩을 위한 하이퍼파라미터에 대한 가이드와 VOC-MLT 및 COCO-MLT에 걸친 실증 연구를 제공한다.

실험 결과

연구 질문

• RQ1 다중 라벨 긴 꼬리 설정에서 라벨 공출현을 고려하여 손실을 어떻게 재균형시킬 수 있는가?
• RQ2 BCE 기반 다중 라벨 학습에서 tail 클래스의 학습 다이나믹에 음수-허용 정규화가 어떤 영향을 미치는가?
• RQ3 표준 벤치마크에서 재균형 가중치와 음수-허용 정규화를 결합하여 어떤 성능 향상을 얻을 수 있는가?
• RQ4 제안된 방법이 head 및 중간 클래스를 유지 또는 향상시키면서 tail 클래스를 강화하는가?

주요 결과

• DB 손실은 VOC-MLT 및 COCO-MLT에서 총합과 tail 하위 클래스 모두에 대해 기준선 대비 일관된 개선을 보인다.
• 재균형 가중치만으로도 전체 mAP를 개선하고 샘플링과 결합할 때 tail 클래스에 특히 도움이 된다.
• 음수-허용 정규화는 음수의 과도한 억제를 완화하여 tail 클래스에서 뚜렷한 이득을 제공한다.
• DB-Focal은 추가로 성능을 끌어올려 비교된 방법들 중에서 최상의 전반적 결과를 달성한다.
• Tail 클래스는 NTR의 혜택을 가장 많이 받으며 head 클래스는 신중한 하이퍼파라미터 튜닝으로 경쟁력을 유지한다.