[논문 리뷰] GODS: Generalized One-class Discriminative Subspaces for Anomaly Detection

Jue Wang, Anoop Cherian|arXiv (Cornell University)|2019. 08. 16.

Anomaly Detection Techniques and Applications참고 문헌 53인용 수 8

한 줄 요약

이 논문은 정상 데이터를 최소 부피 영역 내에 고정시키기 위해 정규직교 부분공간 쌍을 사용하는 새로운 일종 이상 탐지 방법인 GODS를 제안한다. 이 방법은 마진 최대화와 부분공간 근접도 최적화를 통해 성능을 향상시킨다. 다양한 벤치마크에서 최신 기술 수준의 성능을 달성하며, 차량 내에서 위치가 어긋난 인간 자세를 탐지하기 위한 새로운 데이터셋에서도 이전 방법 대비 10퍼센트 이상의 정확도 향상을 보였다.

ABSTRACT

One-class learning is the classic problem of fitting a model to data for which annotations are available only for a single class. In this paper, we propose a novel objective for one-class learning. Our key idea is to use a pair of orthonormal frames -- as subspaces -- to "sandwich" the labeled data via optimizing for two objectives jointly: i) minimize the distance between the origins of the two subspaces, and ii) to maximize the margin between the hyperplanes and the data, either subspace demanding the data to be in its positive and negative orthant respectively. Our proposed objective however leads to a non-convex optimization problem, to which we resort to Riemannian optimization schemes and derive an efficient conjugate gradient scheme on the Stiefel manifold. To study the effectiveness of our scheme, we propose a new dataset~\emph{Dash-Cam-Pose}, consisting of clips with skeleton poses of humans seated in a car, the task being to classify the clips as normal or abnormal; the latter is when any human pose is out-of-position with regard to say an airbag deployment. Our experiments on the proposed Dash-Cam-Pose dataset, as well as several other standard anomaly/novelty detection benchmarks demonstrate the benefits of our scheme, achieving state-of-the-art one-class accuracy.

연구 동기 및 목표

• 단일 초평면 또는 구형 가정에 의존하는 전통적 일종 이상 탐지 방법(예: OC-SVM, SVDD)의 한계를 해결하기 위해, 복잡한 데이터 구조를 포괄하지 못하는 문제를 해결한다.
• 커널 기반 방법의 확장성 및 표현력 제약을 극복하면서도 일종 이상 탐지에서 분류 성능를 유지한다.
• 정규직교 초평면을 다수 사용하여 구조화되고 저차원의 부분공간에서 정상 데이터를 모델링함으로써 경계 특성화를 향상시킨다.
• 정규직교 조건을 포함한 비볼록 최적화 문제를 제안하며, 이는 자연스럽게 스티펠 만만에 존재하므로 효율적인 리만 최적화를 가능하게 한다.
• 정상 데이터를 수집하는 것이 불가능한 실제 세계의 차량 내 데스크캠 영상에서 비정상적인 인간 자세를 탐지하기 위한 새로운 데이터셋에서의 성능을 입증한다.

제안 방법

• 정상 데이터의 하한 및 상한 초평면으로 작용하는 두 개의 정규직교 부분공간(프레임)을 사용한 일반화된 일종 학습 목표를 제안한다.
• 함께 최적화하는 두 가지 요소: (i) 두 부분공간의 원점 간 거리 최소화, (ii) 각 부분공간과 데이터 사이의 마진 최대화 — 이는 데이터가 각각의 양의 부피에 위치하도록 강제한다.
• 부분공간 기저에 정규직교 조건을 포함한 비볼록 최적화 문제로 공식화하며, 이는 자연스럽게 스티펠 만만에 내장되어 있다.
• 비볼록 최적화 문제를 효율적으로 해결하기 위해 스티펠 만만 상에서 리만 공액 기울기 하강법을 적용하며, 임계점 수렴을 보장한다.
• 입력으로 사용하기 위해 영상 클립을 위해 시간적 컬러션 네트워크(TCN)와 백오프워드(BoW) 특징을 사용한다.
• 커널화 없이 입력 공간 그대로 적용함으로써 확장성과 해석 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 정규직교 초평면을 갖는 이중 부분공간 설정이 단일 초평면 또는 구형 모델에 비해 일종 이상 탐지 성능을 향상시키는가?
• RQ2 스티펠 만만 상에서 리만 최적화를 사용함으로써 정규직교 조건이 있는 비볼록 일종 목표 함수의 효과적이고 효율적인 학습이 가능한가?
• RQ3 제안된 GODS 프레임워크는 영상 기반 인간 자세 이상 탐지와 같은 다양한 실제 세계의 일종 이상 탐지 과제에 일반화 가능한가?
• RQ4 기존 표준 벤치마크와 새로 도입된 도전적인 실제 세계 데이터셋에서 GODS의 성능은 최신 기술 수준의 방법들과 비교해 어떻게 되는가?
• RQ5 초평면 수가 증가함에 따라 메서드의 강건성과 확장성은 유지되는가? 복잡성과 성능 사이의 최적의 트레이드오프는 무엇인가?

주요 결과

• TCN 특징을 사용할 경우, Dash-Cam-Pose 데이터셋에서 GODS는 F1 스코어 0.553을 기록하며, 다음으로 좋은 방법(BODS)보다 0.031 높고, OC-SVM보다 0.275 높다.
• JHMDB 데이터셋에서 GODS는 F1 스코어 0.777을 기록하며, 다음으로 좋은 방법(BODS, 0.725)보다 13% 향상되었고, 전통적 OC-SVM 및 SVDD보다 10% 이상 향상되었다.
• UCF-Crime 데이터셋에서 GODS는 AUC 70.46%와 2.1%의 가짜 경고율을 기록하며, 약간의 약한 레이블이 부여된 비정상 데이터를 사용한 유일한 방법을 제외하고는 모든 비교 방법보다 뛰어난 성능을 보였다. 이는 비교가 불가능하다.
• 커널 기반 변형 대비 뚜렷한 향상: 벤치마크 전반에서 K-OC-SVM 및 K-SVDD 대비 평균 20% 이상 향상되었다.
• Dash-Cam-Pose 데이터셋에서 TCN 기반 특징 표현은 BoW에 비해 약 3% 높은 성능을 보이며, 더 나은 시간적 모델링 능력을 보여준다.
• 일정 수 이상의 초평면을 초과하면 성능가 포화 상태에 도달함을 확인하여, 임계값을 초과해 복잡성을 증가시키면 과적합이 발생할 수 있음을 시사하며, 하이퍼파라미터 선택에 대해 강건함을 입증한다.