[논문 리뷰] Max-margin Class Imbalanced Learning with Gaussian Affinity

Munawar Hayat, Salman H. Khan외 3명|arXiv (Cornell University)|2019. 01. 23.

Imbalanced Data Classification Techniques참고 문헌 58인용 수 16

한 줄 요약

이 논문은 Bregman 발산 기반의 가우시안 유사도를 사용하여 유클리드 공간에서 최대 마진 분류와 클러스터링을 동시에 수행하는 새로운 미분 가능한 손실 함수인 Affinity Loss를 제안한다. 여러 개의 균일하게 간격을 두고 등거리로 배치된 클래스 프로토타입을 학습함으로써, 불균형 데이터셋에서 일반화 능력과 강인성을 향상시키며, 계산 오버헤드를 최소화하면서 이미지 분류 및 확인 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Real-world object classes appear in imbalanced ratios. This poses a significant challenge for classifiers which get biased towards frequent classes. We hypothesize that improving the generalization capability of a classifier should improve learning on imbalanced datasets. Here, we introduce the first hybrid loss function that jointly performs classification and clustering in a single formulation. Our approach is based on an `affinity measure' in Euclidean space that leads to the following benefits: (1) direct enforcement of maximum margin constraints on classification boundaries, (2) a tractable way to ensure uniformly spaced and equidistant cluster centers, (3) flexibility to learn multiple class prototypes to support diversity and discriminability in feature space. Our extensive experiments demonstrate the significant performance improvements on visual classification and verification tasks on multiple imbalanced datasets. The proposed loss can easily be plugged in any deep architecture as a differentiable block and demonstrates robustness against different levels of data imbalance and corrupted labels.

연구 동기 및 목표

• 희귀 클래스가 부족하여 분류기가 빈번한 클래스 쪽으로 편향되는 딥러닝에서의 클래스 불균형 문제를 해결한다.
• 특징 공간에서 분류와 클러스터링을 동시에 최적화하여 모든 클래스 간 표현 균형을 맞추어 모델의 일반화 능력을 향상시킨다.
• 다양한 수준의 클래스 프로토타입을 유클리드 공간에서 균일하게 간격을 두고 등거리로 학습할 수 있는, 미분 가능하고 플러그인 방식의 손실 함수를 개발한다.
• 명시적인 마진 강제 조건이 없고 훈련 및 테스트 데이터 간 분포 이탈에 취약한 표준 소프트맥스 손실의 한계를 극복한다.
• 특징 공간 클러스터링에 기하학적 제약 조건을 적용하여 레이블 노이즈와 다양한 수준의 데이터 불균형에 대해 강인성을 확보한다.

제안 방법

• L2 거리와 학습된 클래스 프로토타입을 기반으로 Bregman 발산에서 유도된 가우시안 유사도를 사용하여 새로운 손실 함수를 수립한다.
• 내부 클래스 다양성을 포착하고 복잡한 데이터 분포를 지원하기 위해 각 클래스당 다수의 학습 가능한 클래스 프로토타입을 도입한다.
• 프로토타입 수가 임베딩 차원 수 + 1보다 작을 경우 균일하게 간격을 두고 등거리로 배치되도록 기하학적 제약 조건을 강제한다.
• 가우시안 유사도 지표를 통해 군집 크기와 형태를 조절하는 가속도 파라미터 σ를 학습 가능한 방식으로 제어한다.
• 추가 추론 비용 없이 어떤 딥 네URAL 네트워크 아키텍처에도 통합 가능한, 미분 가능하고 종단 간 훈련이 가능한 모듈을 사용한다.
• 최대 마진 분류와 클러스터링을 동시에 최적화하여 상위 클래스 간 분리도와 내부 클래스의 응집도를 동시에 향상시킨다.

실험 결과

연구 질문

• RQ1 통합된 손실 함수가 유클리드 공간에서 분류와 클러스터링을 동시에 최적화하여 불균형 데이터셋에서 일반화 능력을 향상시킬 수 있는가?
• RQ2 기하학적으로 제약된 다수의 클래스 프로토타입을 학습할 경우 희귀 및 불균형 클래스에서의 성능에 어떤 영향을 미치는가?
• RQ3 다양한 수준의 데이터 불균형과 레이블 노이즈 하에서 제안된 Affinity Loss가 표준 소프트맥스 및 다른 최신 기술 대비 얼마나 뛰어난 성능을 보이는가?
• RQ4 균형 잡힌 벤치마크에서 강인한 성능을 달성하기 위해 군집 확산(σ)과 클래스당 프로토타입 수의 최적 설정은 무엇인가?
• RQ5 Bregman 발산 기반의 가우시안 유사도가 각도 마진 방법에 비해 더 안정적이고 일반화 능력이 뛰어난 특징 공간 클러스터링을 가능하게 하는가?

주요 결과

• 제안된 Affinity Loss는 첫 다섯 숫자에 대한 샘플이 10%에 불과한 불균형 MNIST에서 테스트 오차율 99.3%를 기록하며, 표준 소프트맥스 및 기타 베이스라인에 비해 뚜렷한 승리를 거두었다.
• 클래스당 5개 이상의 프로토타입을 사용할 경우 최적의 성능가 도달하며, 이는 다중 중심 학습이 표현 다양성과 강인성을 향상시킨다는 것을 입증한다.
• 최고의 성능는 σ 값이 5에서 20 사이일 때 달성되며, 너무 큰 σ 값은 내부 클래스 분산 증가로 인해 군집 겹침을 유도하고 성능 저하를 초래한다.
• 레이블 노이즈에 강인하며, CIFAR-100과 FG-VC-100을 포함한 여러 불균형 데이터셋에서 높은 정확도를 유지한다.
• 제곱 ℓ₂ 거리와 가우시안 유사도 조합이 가장 우수한 결과를 내며, ℓ₁ 거리와 가우시안 유사도 조합은 수렴하지 못한다.
• 소프트맥스 손실과 달리, 주요 클래스와 희귀 클래스 모두에 대해 균일하게 크기와 간격을 가지는 클러스터를 생성한다.