[논문 리뷰] Attribute Restoration Framework for Anomaly Detection

Chaoqin Huang, Fei Ye외 4명|arXiv (Cornell University)|2019. 11. 25.

Anomaly Detection Techniques and Applications참고 문헌 66인용 수 44

한 줄 요약

본 논문은 ARNet를 Attribute Erasing Module과 함께 제안하여 재구성을 복원(task)으로 전환하고, 의미론적 특징 학습과 다수 데이터셋에서의 이상 탐지 성능 향상을 가능하게 한다.

ABSTRACT

With the recent advances in deep neural networks, anomaly detection in multimedia has received much attention in the computer vision community. While reconstruction-based methods have recently shown great promise for anomaly detection, the information equivalence among input and supervision for reconstruction tasks can not effectively force the network to learn semantic feature embeddings. We here propose to break this equivalence by erasing selected attributes from the original data and reformulate it as a restoration task, where the normal and the anomalous data are expected to be distinguishable based on restoration errors. Through forcing the network to restore the original image, the semantic feature embeddings related to the erased attributes are learned by the network. During testing phases, because anomalous data are restored with the attribute learned from the normal data, the restoration error is expected to be large. Extensive experiments have demonstrated that the proposed method significantly outperforms several state-of-the-arts on multiple benchmark datasets, especially on ImageNet, increasing the AUROC of the top-performing baseline by 10.1%. We also evaluate our method on a real-world anomaly detection dataset MVTec AD and a video anomaly detection dataset ShanghaiTech.

연구 동기 및 목표

• 훈련 동안 정상 데이터만 사용 가능한 비지도 설정에서 정적 이미지의 이상 탐지를 촉진한다.
• 의미 속성을 지워 복원 작업을 형성함으로써 재구성 기반 방법의 정보 등가성을 깨는다.
• 복원을 통해 의미론적 특징 임베딩을 학습하고, 복원 오차를 통해 정상과 이상 데이터를 효과적으로 구분하도록 한다.

제안 방법

• 컴팩트한 의미 표현과 관련된 속성을 지우는 Attribute Erasing Module(AEM)을 도입한다(예: 색상, 방향).
• 원래 데이터를 감독으로 사용하여 지워진 속성을 복원하는 인코더–디코더로 ARNet(Attribute Restoration Network)을 설계한다.
• 의미 임베딩 학습을 위해 l2 학습 손실을 포함한 비대칭 복원 목적을 사용한다.
• 다중 속성 지우기를 통해 계산된 정규화된 복원 오차를 l1 손실로 구하고 테스트 시 이상 점수를 정의한다.
• 확률적 지우기(stochastic erasing)를 다중 지워진 속성 구성(configuration)을 고려하고 정규화를 통한 복원 오차 평균화로 편향을 줄인다.

실험 결과

연구 질문

• RQ1 의미적으로 의미 있는 속성을 지우는 것이 네트워크가 정상 데이터와 이상 데이터를 구분하는 강건한 의미 임베딩을 학습하도록 강제할 수 있는가?
• RQ2 속성 복원이 여러 데이터셋에 걸쳐 전통적인 재구성 기반 방법보다 이상 탐지 성능을 향상시키는가?
• RQ3 다중 지워짐에 걸친 복원 오차의 제안된 정규화가 이상 점수의 안정성 및 정확도에 어떻게 영향을 미치는가?
• RQ4 ARNet이 실제 세계의 왜곡 및 합성 손상에 강인한가, 그리고 ImageNet과 같은 대규모 고해상도 데이터셋으로 확장될 수 있는가?

주요 결과

• ARNet은 ImageNet을 포함한 여러 벤치마크에서 최첨단 이상 탐지 방법을 크게 능가하며, 상당한 AUROC 상승을 달성한다.
• 이 방법은 MVTec AD 같은 실제 데이터셋과 CIFAR-10-C와 같은 왜곡된 데이터셋에서도 강건성을 유지하여 의미 중심의 복원을 시사한다.
• 속성 지우기가 포함된 복원 기반 프레임워크는 픽셀 수준 재구성 방식보다 더 구별 가능한 의미 임베딩을 제공한다.
• 본 논문은 속성 복원으로 인한 잠재 공간의 의미적 분리를 시각화하는 T-SNE 시각화를 제공한다.