[논문 리뷰] Discriminative Sparse Neighbor Approximation for Imbalanced Learning

Chen Huang, Chen Change Loy외 1명|arXiv (Cornell University)|2016. 02. 03.

Imbalanced Data Classification Techniques참고 문헌 5인용 수 4

한 줄 요약

이 논문은 데이터 불균형 문제를 해결하기 위해 비용 감도 기반 결함 숲을 사용해 테스트 샘플 주변의 '안전한' 국소적 이웃을 식별하고, 이웃을 겹치는 클래스 구분 능력이 뛰어난 클러스터로 분할하는 새로운 방법인 Discriminative Sparse Neighbor Approximation (DSNA)를 제안한다. 각 클러스터는 애핀 부분공간으로 모델링되어 국소 기하학적 구조를 포착하고 선형 근사를 지원한다. 이 방법은 이러한 부분공간 내에서 테스트 샘플을 반복적으로 근사함으로써 강건하고 편향 없는 예측을 가능하게 하며, 특히 높은 클래스 겹침이 있는 소규모 불균형 데이터셋에서 최신 기술들—딥 러닝 모델 포함—을 크게 능가한다.

ABSTRACT

Data imbalance is common in many vision tasks where one or more classes are rare. Without addressing this issue conventional methods tend to be biased toward the majority class with poor predictive accuracy for the minority class. These methods further deteriorate on small, imbalanced data that has a large degree of class overlap. In this study, we propose a novel discriminative sparse neighbor approximation (DSNA) method to ameliorate the effect of class-imbalance during prediction. Specifically, given a test sample, we first traverse it through a cost-sensitive decision forest to collect a good subset of training examples in its local neighborhood. Then we generate from this subset several class-discriminating but overlapping clusters and model each as an affine subspace. From these subspaces, the proposed DSNA iteratively seeks an optimal approximation of the test sample and outputs an unbiased prediction. We show that our method not only effectively mitigates the imbalance issue, but also allows the prediction to extrapolate to unseen data. The latter capability is crucial for achieving accurate prediction on small dataset with limited samples. The proposed imbalanced learning method can be applied to both classification and regression tasks at a wide range of imbalance levels. It significantly outperforms the state-of-the-art methods that do not possess an imbalance handling mechanism, and is found to perform comparably or even better than recent deep learning methods by using hand-crafted features only.

연구 동기 및 목표

• 비전 작업에서 소수의 클래스가 부족하여 주로 다수 클래스에 편향되어 잘못 분류되는 데이터 불균형 문제를 해결하기 위해.
• 기존 방법들이 소수 클래스 샘플이 희박하거나 존재하지 않을 경우 일반화에 실패하는 한계를 극복하기 위해.
• 다양한 정도의 클래스 불균형 하에서 분류 및 회귀 작업 모두에 효과적인 통합 프레임워크를 개발하기 위해.
• 관측된 훈련 샘플을 초월한 외삽 능력을 향상시켜 소규모 데이터셋에서 강건한 예측을 가능하게 하기 위해.
• 딥 러닝 모델과 비교하여 동등하거나 슈퍼리어한 성능을 달성하면서도 수작업 특징에 의존하는 얕은 학습 방법을 개발하기 위해.

제안 방법

• 비용 감도 기반 결함 숲을 사용해 테스트 샘플 주변의 '안전한' 국소 이웃을 추출하며, 이웃 선택 시 소수 클래스 샘플을 우선시하여 위조 영향을 줄인다.
• 선택된 이웃을 겹치는 다수의 클래스 구분 능력이 뛰어난 클러스터로 분할하여 다수 클래스 지배를 최소화한다.
• 각 클러스터를 애핀 부분공간으로 모델링하여 국소 기하학적 구조를 포착하고 선형 근사를 지원한다.
• 반복적인 DSNA 알고리즘을 통해 테스트 샘플을 이러한 부분공간 내에서 최적의 근사치로 찾는다. 이로 인해 편향 없는 예측이 가능해진다.
• 근사 목표와 출력 레이어를 조정함으로써 분류 및 회귀 작업 모두를 지원한다.
• 구조적 에지 검출(SE)과 DSNA를 통합한 엔드 투 엔드 프레임워크(CS-SE+DSNA)를 에지 예측 작업에 적용한다.

실험 결과

연구 질문

• RQ1 비용 감도 학습 기반의 국소 이웃 선택 전략이 불균형 데이터에서 소수 클래스의 표현을 향상시킬 수 있는가?
• RQ2 국소 이웃 내에서 겹치는 클래스 구분 능력이 뛰어난 클러스터가 클래스 지배를 줄임으로써 예측 정확도를 향상시킬 수 있는가?
• RQ3 클러스터를 애핀 부분공간으로 모델링하면 미관측 소수 클래스 샘플로의 일반화 및 외삽 능력 향상에 기여하는가?
• RQ4 DSNA를 적용한 얕은 학습 방법이 수작업 특징만을 사용할 때 딥 러닝 모델을 초월해 불균형 비전 작업에서 성능을 높일 수 있는가?
• RQ5 특히 훈련 및 테스트 데이터가 서로 다른 분포에서 온 경우, 이 방법은 다양한 데이터셋 간에 얼마나 잘 일반화되는가?

주요 결과

• CS-SE+DSNA는 에지 검출에서 모든 얕은 학습 방법과 대부분의 딥 모델을 능가하며, BSDS500에서 0.77 ODS, 0.79 OIS, 0.81 AP를 기록하여 HED와 유사한 성능을 달성했다.
• NYU 데이터셋에서 CS-SE+DSNA는 교차 데이터셋 일반화에서 0.62 ODS 및 0.63 OIS를 기록했으며, SE 및 DeepContour를 모두 능가했다.
• 데이터가 제거되었을 때 KRF보다 더 유연하게 성능 저하가 발생함을 보이며, 소규모 불균형 데이터셋에서 강력한 내구성을 입증했다.
• 시각적 결과는 배경 품질을 훼손하지 않으면서도 소수 클래스의 에지를 잘 유지한 청소화된 에지 맵을 보여주며, 더 나은 소수 클래스 예측 능력을 확인했다.
• 소수 클래스에 훈련 샘플이 전혀 없는 경우에도(예: FG-NET에서 연령 >60) 높은 성능를 유지함으로써 외삽 능력이 입증되었다.
• DSNA는 딥 아키텍처나 복잡한 재가중 기법 없이도 분류 및 회귀 작업에서 최신 기술 수준의 성능를 달성했다.