[논문 리뷰] Classification-Based Anomaly Detection for General Data

Liron Bergman, Yedid Hoshen|arXiv (Cornell University)|2020. 05. 05.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 99

한 줄 요약

GOAD는 일반 데이터(표형 데이터를 포함)에서 이상탐지를 위해 비지도-오픈세트와 변환 기반 분류를 통합하고, 선형 변환과 학습된 특징 공간에서의 거리 기반 스코어링을 사용합니다.

ABSTRACT

Anomaly detection, finding patterns that substantially deviate from those seen previously, is one of the fundamental problems of artificial intelligence. Recently, classification-based methods were shown to achieve superior results on this task. In this work, we present a unifying view and propose an open-set method, GOAD, to relax current generalization assumptions. Furthermore, we extend the applicability of transformation-based methods to non-image data using random affine transformations. Our method is shown to obtain state-of-the-art accuracy and is applicable to broad data types. The strong performance of our method is extensively validated on multiple datasets from different domains.

연구 동기 및 목표

• 비정상 탐지를 개선하기 위한 반지도 학습, 정상 학습 데이터만 필요한 분류 기반 방법의 동기 부여.
• 일반 데이터에 확장 가능한 변환 기반 방법을 통해 프레임워크를 확장하는 GOAD를 제안합니다.
• 변환된 부분공간이 잘 구분되고 이상치는 부분공간 중심으로부터의 거리로 점수가 매겨지는 판별적 특징 공간을 학습합니다.
• 이미지에 국한되지 않고 일반 데이터에 대한 강건성을 높이기 위해 변환 세트를 아핀 변환으로 확장하여 표형 데이터까지 포함하는 광범위한 적용성을 제공합니다.
• 여러 도메인(이미지 및 표형 데이터)에 대해 악의적 공격에 대한 강건성을 입증하고 검증합니다.

제안 방법

• 학습된 합성변환 T(x,m)=Wm x + bm을 통해 데이터를 M개의 부분공간 X1,...,XM으로 변환합니다.
• 특징 공간에서 각 부분공간을 중심 cm으로 모델링하고, 군집 내 간결성과 군집 간 분리를 촉진하기 위해 거리 기반의 트리플렛-센터 손실(Eq. 3)을 사용합니다.
• 변환 가능성은 중심들에 대한 음수 거리의 softmax로 계산하고( Eq. 2) 불확실 영역을 규제하기 위해 작은 ε를 적용합니다(Eq. 4).
• 변환 샘플의 가능성을 모아 정상성 점수 Score(x) = - sum_m log P̃(T(x,m) ∈ Xm) 를 얻습니다(Eq. 5).
• 비이미지 데이터를 다루고 악의적 예제에 대한 강건성을 높이기 위해 변환을 아핀 맵으로 확장합니다.
• 오픈세트 기반 GOAD를 소프트맥스 스타일 방법과 비교하고 이미지(CIFAR-10, Fashion-MNIST)와 표형 데이터셋(의료 및 사이버 보안)에서 평가합니다.

실험 결과

연구 질문

• RQ1 일반 데이터 유형(표형 데이터 포함)에 대해 오픈세트 구동의统一된 변환 기반 접근법이 이상 탐지를 개선할 수 있는가?
• RQ2 이미지 전용 기하 변환에서 벗어나 아핀 매핑으로 변환을 확장하는 것이 일반화 및 강건성을 개선하는가?
• RQ3 GOAD가 다양한 도메인에서 최첨단 분류- 및 재구성 기반 이상 탐지기와 비교하여 성능이 어떠한가?
• RQ4 정상 데이터만으로 학습하는 반지도 설정에서 중심 기반 클러스터링이 이상 탐지에 효과적인가?
• RQ5 무작위 변환이 악의적 조작에 대한 강건성에 미치는 영향은?

주요 결과

데이터세트	방법	ROC-AUC (%)
CIFAR-10	Deep-SVDD	64.8
CIFAR-10	GEOM (no Dirichlet)	81.6
CIFAR-10	GEOM (w. Dirichlet)	86.0
CIFAR-10	GOAD (Ours)	88.2
Fashion-MNIST	Deep-SVDD	92.8
Fashion-MNIST	GEOM (no Dirichlet)	79.8
Fashion-MNIST	GEOM (w. Dirichlet)	93.5
Fashion-MNIST	GOAD (Ours)	94.1

• GOAD는 CIFAR-10 및 Fashion-MNIST 이상 탐지 벤치마크에서 최첨단 또는 경쟁력 있는 정확도를 달성합니다.
• CIFAR-10에서 GOAD 평균 ROC-AUC는 88.2%이며, Deep-SVDD는 64.8%, GEOM(무 Dirichlet)은 81.6%, GEOM(Dirichlet 포함)은 86.0%입니다.
• Fashion-MNIST에서 GOAD 평균 ROC-AUC는 94.1%이며, Deep-SVDD는 92.8%, GEOM(무 Dirichlet)은 79.8%, GEOM(Dirichlet 포함)은 93.5%입니다.
• GOAD는 무작위 아핀 변환을 사용하여 악의적 공격에 대한 강건성을 보여주며 CIFAR-10 전반에 걸쳐 공격자에 의한 활용을 줄였습니다.
• GOAD는 표형 데이터셋(Arrhythmia, Thyroid, KDD, KDDRev)으로 확장되었고 다수의 기준점에서 OC-SVM, E2E-AE, LOF, DAGMM, FB-AE보다 우수하며, 특히 KDD/KDDRev에서 우수합니다; 무작위 변환은 강건성을 향상시킵니다.
• 변환 수를 늘리면 일반적으로 점수 분산이 감소하고 더 큰 데이터 세트에서 성능이 향상되며, 안정적인 결과를 위해 최소 약 16개의 작업이 권장됩니다.