[논문 리뷰] OLED: One-Class Learned Encoder-Decoder Network with Adversarial Context Masking for Novelty Detection

John Jewell, Vahid Reza Khazaie외 1명|arXiv (Cornell University)|2021. 03. 27.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

이 논문은 자동에코더 기반 이상 탐지에서 재구성 성능을 향상시키기 위해 의미 정보를 반영한 최적의 이미지 마스킹을 학습하기 위해 적대적으로 훈련된 마스크 모듈을 사용하는 one-class 이상 탐지 프레임워크인 OLED를 제안한다. 재구성기(R)는 재구성 오차를 최소화하고, 마스크 모듈(MM)은 이를 최대화하도록 공동으로 훈련함으로써 OLED는 더 풍부한 표현을 학습하며, UCSD 영상 데이터에서 99.02% AUC, MNIST에서 98.45% AUC를 기록하여 최신 기술(SOTA)을 초월하는 성능을 달성한다.

ABSTRACT

Novelty detection is the task of recognizing samples that do not belong to the distribution of the target class. During training, the novelty class is absent, preventing the use of traditional classification approaches. Deep autoencoders have been widely used as a base of many unsupervised novelty detection methods. In particular, context autoencoders have been successful in the novelty detection task because of the more effective representations they learn by reconstructing original images from randomly masked images. However, a significant drawback of context autoencoders is that random masking fails to consistently cover important structures of the input image, leading to suboptimal representations - especially for the novelty detection task. In this paper, to optimize input masking, we have designed a framework consisting of two competing networks, a Mask Module and a Reconstructor. The Mask Module is a convolutional autoencoder that learns to generate optimal masks that cover the most important parts of images. Alternatively, the Reconstructor is a convolutional encoder-decoder that aims to reconstruct unperturbed images from masked images. The networks are trained in an adversarial manner in which the Mask Module generates masks that are applied to images given to the Reconstructor. In this way, the Mask Module seeks to maximize the reconstruction error that the Reconstructor is minimizing. When applied to novelty detection, the proposed approach learns semantically richer representations compared to context autoencoders and enhances novelty detection at test time through more optimal masking. Novelty detection experiments on the MNIST and CIFAR-10 image datasets demonstrate the proposed approach's superiority over cutting-edge methods. In a further experiment on the UCSD video dataset for novelty detection, the proposed approach achieves state-of-the-art results.

연구 동기 및 목표

• 의미적으로 중요한 이미지 구조를 일관되게 커버하지 못하는 컨텍스트 자동에코더에서의 랜덤 마스킹의 한계를 해결한다.
• 훈련 중 마스킹 전략을 최적화하여 one-class 이상 탐지의 표현 학습을 향상시킨다.
• 내부 데이터에 대한 재구성 정밀도를 높이고 외부 데이터에 대해서는 떨어뜨리는 엔드 투 엔드 훈련 가능한 프레임워크를 개발한다.
• 최신 기술(SOTA) 방법들과 비교해 이미지 및 영상 이상 탐지 벤치마크에서 뛰어난 성능을 입증한다.

제안 방법

• 활성화 맵을 생성하고 임계값 처리를 통해 이진 마스크를 생성하는 컨volutional autoencoder로 구성된 마스크 모듈(MM)을 도입한다.
• 재구성기(R)와 마스크 모듈(MM)을 적대적 설정에서 훈련한다: R은 재구성 오차를 최소화하고, MM은 이를 최대화한다.
• 마스킹된 입력의 재구성 오차를 이상도 수치로 사용하며, 최적의 마스킹이 표현 품질을 향상시킨다.
• 시험 시점에 마스킹을 적용하여 핵심 이미지 구조에 집중함으로써 탐지 성능을 추가로 향상시킨다.
• 표준 백프로파게이션을 사용해 전체 시스템을 엔드 투 엔드로 훈련시켜 기존 자동에코더 파ip라인에 원활하게 통합할 수 있다.
• 적대적 동적 특성을 활용해 MM이 의미적으로 중요한 영역을 식별하고 마스킹함으로써 더 견고한 표현을 유도한다.

실험 결과

연구 질문

• RQ1 마스크 생성기와 재구성기 간의 적대적 훈련이 one-class 이상 탐지의 표현 품질을 향상시킬 수 있는가?
• RQ2 학습된 맥락 인식 마스킹이 이상 탐지에서 랜덤 마스킹보다 우수한 성능을 내는가?
• RQ3 시험 시점 마스킹이 one-class 환경에서 탐지 성능을 얼마나 향상시키는가?
• RQ4 제안된 프레임워크가 이미지 및 영상과 같은 다양한 데이터 모odal리티에 일반화 가능한가?
• RQ5 제안된 방법이 표준 벤치마크 데이터셋에서 최신 기술(SOTA) 방법들과 비교해 어떻게 성능을 내는가?

주요 결과

• OLED는 UCSD 영상 이상 탐지 벤치마크에서 99.02%의 AUC를 기록하여 최근 SOTA 모델들을 크게 능가한다.
• MNIST 데이터셋에서 OLED는 평균 이상도 수치를 사용해 98.45% AUC를 달성하며, 기준 컨텍스트 자동에코더(CAE)의 5.7%p 높은 성능을 기록한다.
• 제거 분석 결과, 학습된 마스킹이 랜덤 마스킹보다 성능을 향상시키며, MNIST에서 OLED의 AUC는 98.45%이며 CAE는 87.68%로 확인된다.
• 마스크 모듈은 강력한 의미 세그멘테이션 능력을 보이며, 내부 데이터 및 외부 데이터 샘플 모두에서 핵심 이미지 구조를 효과적으로 식별한다.
• 시험 시점 마스킹은 OLED의 성능을 추가로 향상시키지만, CAE의 성능은 떨어지며, 이는 비최적의 랜덤 마스킹이 재구성 오차 수치에 노이즈를 유도한다는 것을 확인한다.
• 이 방법은 잘 일반화되며, 내부 데이터에 대해 높은 재구성 정밀도를 유지하고 외부 데이터에 대해서는 낮은 재구성 성능를 보이며, 핵심 설계 원칙을 검증한다.