[논문 리뷰] Deep One-Class Classification Using Data Splitting.

Patrick Schlachter, Yi-Wen Liao외 1명|arXiv (Cornell University)|2019. 02. 04.

Anomaly Detection Techniques and Applications참고 문헌 11인용 수 3

한 줄 요약

이 논문은 정상 훈련 데이터를 일반적이고 이례적인 부분으로 분할하여 이진 손실을 사용한 엔드 투 엔드 훈련이 가능한 새로운 딥 원클래스 분류 방법을 제안한다. 잠재 공간 거리 제약을 부여하는 보조 하위망을 도입함으로써 결정 경계가 조밀하고 닫혀 있는 형태로 학습되며, 이는 일곱 개의 베이스라인을 능가하고 세 개의 이미지 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

This paper introduces a generic method which enables to use conventional deep neural networks as end-to-end one-class classifiers. The method is based on splitting given data from one class into two subsets. In one-class classification, only samples of one normal class are available for training. During inference, a closed and tight decision boundary around the training samples is sought which conventional binary or multi-class neural networks are not able to provide. By splitting data into typical and atypical normal subsets, the proposed method can use a binary loss and defines an auxiliary subnetwork for distance constraints in the latent space. Various experiments on three well-known image datasets showed the effectiveness of the proposed method which outperformed seven baselines and had a better or comparable performance to the state-of-the-art.

연구 동기 및 목표

• 딥 신경망을 사용한 원클래스 분류에서 닫혀 있고 조밀한 결정 경계를 학습하는 데 도전하는 데 목적이 있다.
• 훈련 중에 이상치 데이터가 없음에도 불구하고 기존의 딥 신경망이 엔드 투 엔드 원클래스 분류기로 기능할 수 있도록 하는 데 목적이 있다.
• 정상 데이터를 일반적이고 이례적인 부분으로 분할하여 일반화 능력과 이상 탐지 성능을 향상시키는 데 목적이 있다.
• 표준 딥 러닝 프레임워크와 호환되는 일반적이고 즉시 사용 가능한 솔루션을 제공하는 데 목적이 있다.
• 최신 기술 수준의 원클래스 분류 방법과 비교해도 경쟁력 있거나 뛰어난 성능을 달성하는 데 목적이 있다.

제안 방법

• 단일 정상 클래스를 일반적 정상 샘플과 이례적 정상 샘플로 두 부분으로 분할한다.
• 분할된 데이터를 사용하여 메인 네트워크를 훈련하기 위해 이진 교차 엔트로피 손실을 적용한다.
• 잠재 공간에서의 거리 제약을 강제하기 위해 보조 하위망을 도입한다. 이는 정상 샘플 주변의 밀도를 높인다.
• 일반적 샘플의 잠재 표현은 중심점에 가까워지도록 제약되며, 이례적 샘플은 밀려나도록 유도된다.
• 이진 분류 손실과 거리 정규화 손실을 조합한 복합 손실을 사용해 엔드 투 엔드로 모델을 훈련한다.
• 이중 하위집합 감독과 잠재 공간 제약 덕분에 결정 경계가 암묵적으로 닫혀 있고 조밀하게 학습된다.

실험 결과

연구 질문

• RQ1 일반적이고 이례적인 부분으로 데이터를 분할하면 딥 원클래스 분류기의 성능 향상에 기여하는가?
• RQ2 제안된 방법은 기존의 원클래스 분류 베이스라인과 비교해 이상 탐지 정확도 측면에서 어떻게 성과를 내는가?
• RQ3 이상치 데이터를 명시적으로 제공하지 않아도, 이진 손실과 잠재 공간 제약을 갖춘 표준 딥 신경망이 닫혀 있고 조밀한 결정 경계를 학습할 수 있는가?
• RQ4 거리 제약을 위한 보조 하위망이 정상 클래스 표현의 밀도를 향상시키는가?
• RQ5 제안된 방법은 다양한 이미지 데이터셋과 아키텍처에 일반화 가능한가?

주요 결과

• 제안된 방법은 세 개의 잘 알려진 이미지 데이터셋에서 일곱 개의 베이스라인 원클래스 분류 방법을 모두 능가했다.
• 원클래스 분류 과제에서 최신 기술 수준의 방법과 비교해 유사한 성능를 달성했다.
• 데이터 분할과 잠재 공간 거리 제약의 활용으로 정상 샘플 주변의 결정 경계가 더욱 조밀하고 닫혀 있는 형태로 구현되었다.
• 훈련 중에 정상 데이터만을 사용했음에도 불구하고 강력한 일반화 능력을 보였다.
• 보조 하위망은 잠재 공간 내 정상 클래스 임베딩의 밀도를 크게 향상시켰다.
• 이 방법은 효과적이며 일반적이며, 아키텍처 수정 없이도 표준 딥 신경망에 적용 가능하다.