[논문 리뷰] Non-negative Sparse and Collaborative Representation for Pattern Classification

Jun Xu, Xu Zhou외 3명|arXiv (Cornell University)|2019. 08. 20.

Face and Expression Recognition참고 문헌 62인용 수 5

한 줄 요약

이 논문은 패턴 분류 성능을 향상시키기 위해 희소 표현과 협업 표현에 비음성 조건을 도입한 새로운 방법인 비음성 희소 및 협업 표현(NSCR)을 제안한다. 테스트 샘플을 학습 샘플의 비음성 선형 조합으로 표현함으로써 NSCR는 분류의 판별 능력을 향상시키며, 기존의 SR/CR 방법과 최신 딥 러닝 기반 접근 방식보다 벤치마크 데이터셋에서 뛰어난 성능을 기록한다.

ABSTRACT

Sparse representation (SR) and collaborative representation (CR) have been successfully applied in many pattern classification tasks such as face recognition. In this paper, we propose a novel Non-negative Sparse and Collaborative Representation (NSCR) for pattern classification. The NSCR representation of each test sample is obtained by seeking a non-negative sparse and collaborative representation vector that represents the test sample as a linear combination of training samples. We observe that the non-negativity can make the SR and CR more discriminative and effective for pattern classification. Based on the proposed NSCR, we propose a NSCR based classifier for pattern classification. Extensive experiments on benchmark datasets demonstrate that the proposed NSCR based classifier outperforms the previous SR or CR based approach, as well as state-of-the-art deep approaches, on diverse challenging pattern classification tasks.

연구 동기 및 목표

• 희소 표현 및 협업 표현의 판별 능력을 향상시키기 위해 비음성 조건을 도입함으로써 패턴 분류 성능을 향상시키는 것.
• 복잡한 실세계 분류 과제를 다룰 때 기존의 희소 및 협업 표현 방법의 한계를 해결하는 것.
• 기존의 최신 기술보다 뛰어난 성능을 보이는 비음성 희소 및 협업 표현 기반의 새로운 분류기 개발하는 것.
• 비음성 제약 조건이 표현의 정확성과 분류 정확도 향상에 미치는 영향을 검증하는 것.

제안 방법

• NSCR 방법은 각 테스트 샘플의 표현을 학습 샘플의 비음성 선형 조합으로 설정한다.
• 희소성과 협업을 동시에 최적화하면서 표현 계수에 비음성 조건을 강제한다.
• 표현 정확도, 희소성, 비음성 조건을 균형 잡는 제약 조건을 가진 최적화 문제를 해결한다.
• 분류기는 NSCR 계수를 사용하여 재구성 오차 또는 학습 클래스와의 유사도 기반으로 분류 점수를 계산한다.
• 비음성 조건은 최적화 공식에서 상자 제약 조건 또는 페널티 항을 통해 강제된다.
• 표준 벤치마크 데이터셋을 사용하여 다양한 패턴 분류 과제에 적용된다.

실험 결과

연구 질문

• RQ1 희소 및 협업 표현에 비음성 조건을 도입하면 분류 성능 향상이 가능한가?
• RQ2 정확도와 견고성 측면에서 NSCR는 전통적인 희소 표현 및 협업 표현보다 어떻게 다를까?
• RQ3 어려운 패턴 분류 과제에서 NSCR는 최신 딥 러닝 모델을 초월하는가?
• RQ4 비음성 조건은 표현 벡터의 판별 능력에 어떤 영향을 미치는가?

주요 결과

• NSCR 기반 분류기는 전통적인 희소 표현 및 협업 표현 방법보다 뛰어난 분류 정확도를 기록한다.
• NSCR는 다양한 벤치마크 패턴 분류 데이터셋에서 최신 딥 러닝 접근 방식을 능가한다.
• 비음성 제약 조건은 표현의 판별 능력을 향상시켜 더 견고한 분류 결과를 이끈다.
• 제안된 방법은 다양한 어려운 분류 과제에서 일관된 성능 향상을 보였다.