[논문 리뷰] SPADE: Semi-supervised Anomaly Detection under Distribution Mismatch

Jinsung Yoon, Kihyuk Sohn외 3명|arXiv (Cornell University)|2022. 11. 30.

Anomaly Detection Techniques and Applications인용 수 9

한 줄 요약

SPADE는 일관성 없는 분포 간 불일치 문제에 강건한 반감독 이상 탐지 프레임워크를 제안한다. 이는 가짜 레이블링을 위한 일변도 분류기의 앙상블과 검증 데이터가 없는 경우에도 자동으로 초모수를 설정하는 부분 일치 방법을 사용한다. 이는 실제 세계의 분포 이격 상황에서도 최신 기술을 초월한 성능을 달성하며, 표본 데이터에서 최대 10.6% 향상되고 이미지 데이터에서 최대 3.6% 향상된다.

ABSTRACT

Semi-supervised anomaly detection is a common problem, as often the datasets containing anomalies are partially labeled. We propose a canonical framework: Semi-supervised Pseudo-labeler Anomaly Detection with Ensembling (SPADE) that isn't limited by the assumption that labeled and unlabeled data come from the same distribution. Indeed, the assumption is often violated in many applications - for example, the labeled data may contain only anomalies unlike unlabeled data, or unlabeled data may contain different types of anomalies, or labeled data may contain only 'easy-to-label' samples. SPADE utilizes an ensemble of one class classifiers as the pseudo-labeler to improve the robustness of pseudo-labeling with distribution mismatch. Partial matching is proposed to automatically select the critical hyper-parameters for pseudo-labeling without validation data, which is crucial with limited labeled data. SPADE shows state-of-the-art semi-supervised anomaly detection performance across a wide range of scenarios with distribution mismatch in both tabular and image domains. In some common real-world settings such as model facing new types of unlabeled anomalies, SPADE outperforms the state-of-the-art alternatives by 5% AUC in average.

연구 동기 및 목표

• 감지에서 레이블이 부여된 데이터와 레이블이 없는 데이터가 서로 다른 분포에서 유래하는 일반적인 실세계 문제를 해결한다. 이는 표준 반감독 학습의 가정을 위반한다.
• 레이블이 부여된 데이터에 이상 유형만 포함되거나, 쉬운 샘플만 포함되거나, 레이블이 없는 데이터와 다른 이상 유형을 포함할 경우에도 높은 성능을 유지하는 방법을 개발한다.
• 검증 데이터가 없는 상황에서 초모수 조정을 위해 데이터 효율적이고 자동화된 가짜 레이블링 임계값 설정 방법을 도입함으로써 검증 데이터가 필요 없도록 한다.
• 앙상블 기반 가짜 레이블링과 자기지도 학습을 통해 분포 이격 상황에서의 반감독 이상 탐지의 강건성과 일반화 능력을 향상시킨다.

제안 방법

• 분포 불일치 상황에서 가짜 레이블링의 강건성을 향상시키기 위해 일변도 분류기(OCCs)의 앙상블을 가짜 레이블러로 사용한다.
• 검증 데이터가 없는 조건에서 최적의 가짜 레이블링 임계값을 자동으로 결정하기 위해 부분 일치(partial matching)를 적용한다. 이는 데이터가 적은 환경에서 매우 중요하다.
• 레이블이 부여된 데이터에 대한 지도 학습 손실과 레이블이 없는 데이터에 대한 가짜 레이블링 손실을 가중치 초모수 α를 통해 결합한다.
• 표현 학습(예: 대비 학습)을 통한 자기지도 학습을 통합하여 특징 품질과 모델 일반화 능력을 향상시킨다.
• 개별 모델의 노이즈를 줄이기 위해 OCC 앙상블의 전원 투표를 사용해 신뢰할 수 있는 가짜 레이블을 생성한다.
• 레이블이 부여된 데이터와 가짜 레이블이 부여된 레이블이 없는 데이터를 모두 사용하여 최종 이상 탐지기를 훈련하며, 분포 이격 상황을 고려해 손실 가중치를 적응적으로 조정한다.

실험 결과

연구 질문

• RQ1 레이블이 부여된 데이터와 레이블이 없는 데이터가 서로 다른 분포에서 유래할 경우, 반감독 이상 탐지 프레임워크가 높은 성능을 유지할 수 있는가?
• RQ2 검증 데이터에 접근할 수 없는 상황에서 가짜 레이블링을 위한 초모수를 어떻게 자동으로 선택할 수 있는가?
• RQ3 단일 모델 접근 방식에 비해 앙상블 기반 가짜 레이블링이 분포 이격 상황에서 얼마나 더 강건한가?
• RQ4 자기지도 표현 학습이 레이블이 부족한 환경에서 성능에 어떤 영향을 미치는가?
• RQ5 다양한 투표 전략(예: 전원 투표 vs. 다수결 투표)이 가짜 레이블 품질과 최종 이상 탐지 성능에 어떤 영향을 미치는가?

주요 결과

• SPADE는 새로운 이상 유형, 변화하는 데이터 분포, 편향된 레이블링을 포함한 다양한 실세계 시나리오에서 최신 기술을 초월하는 성능을 달성한다.
• 새로운 이상 유형이 포함된 표본 데이터셋에서 SPADE는 최고의 베이스라인 대비 AUC를 최대 10.6% 향상시킨다.
• 유사한 분포 이격 상황에서 이미지 데이터셋에서 SPADE는 최신 기술 대비 AUC를 3.6% 향상시킨다.
• 부분 일치 방법은 검증 데이터가 없더라도 최적의 가짜 레이블링 임계값을 정확히 식별하여 수동 초모수 조정에 대한 의존도를 감소시킨다.
• 절단 분석 결과, 앙상블, 부분 일치, 자기지도 학습, 전원 투표 각각의 구성 요소가 성능 향상에 기여하며, 자기지도 학습은 AUC를 0.018 향상시키고, 전원 투표는 다수결 투표 대비 0.024 AUC 향상시킨다.
• 초모수 α에 대해 프레임워크는 안정적인 성능을 유지하며, α=0일 경우 성능이 현저히 떨어지므로 레이블이 없는 데이터의 가치를 확인할 수 있다.