[논문 리뷰] LafitE: Latent Diffusion Model with Feature Editing for Unsupervised Multi-class Anomaly Detection

Haonan Yin, Guanlong Jiao외 4명|arXiv (Cornell University)|2023. 07. 16.

Anomaly Detection Techniques and Applications인용 수 7

한 줄 요약

LafitE는 잠재 확산 모델과 기억 기반 특징 편집 전략을 사용하여 비지도 다클래스 이상 탐지 및 로컬라이제이션을 수행하고, 재구성 품질을 향상시키고 정체성 단축을 줄입니다. 또한 하이퍼파라미터 조정을 위한 의사 이상(validation) 세트를 도입합니다.

ABSTRACT

In the context of flexible manufacturing systems that are required to produce different types and quantities of products with minimal reconfiguration, this paper addresses the problem of unsupervised multi-class anomaly detection: develop a unified model to detect anomalies from objects belonging to multiple classes when only normal data is accessible. We first explore the generative-based approach and investigate latent diffusion models for reconstruction to mitigate the notorious ``identity shortcut'' issue in auto-encoder based methods. We then introduce a feature editing strategy that modifies the input feature space of the diffusion model to further alleviate ``identity shortcuts'' and meanwhile improve the reconstruction quality of normal regions, leading to fewer false positive predictions. Moreover, we are the first who pose the problem of hyperparameter selection in unsupervised anomaly detection, and propose a solution of synthesizing anomaly data for a pseudo validation set to address this problem. Extensive experiments on benchmark datasets MVTec-AD and MPDD show that the proposed LafitE, \ie, Latent Diffusion Model with Feature Editing, outperforms state-of-art methods by a significant margin in terms of average AUROC. The hyperparamters selected via our pseudo validation set are well-matched to the real test set.

연구 동기 및 목표

• 다양한 제조 맥락에서 정상 데이터만이 여러 클래스에 걸쳐 존재하는 상황에 대한 비지도 다클래스 이상 탐지 문제를 다룬다.
• 잠재 확산 모델을 활용해 정상 데이터 분포를 학습하고 잠재 공간에서 디노이즈를 통해 이상치를 재구성한다.
• 정상 데이터 매니폴드로 anomalous inputs를 끌어당기고 정체성 단축(identity shortcuts)을 완화하기 위해 기억뱅크 기반의 특징 편집 전략을 도입한다.
• 하이퍼파라미터 조정을 위한 의사 검증 세트를 생성하기 위해 합성 이상 데이터 생성을 제안한다.
• 벤치마크 데이터셋(MVTec-AD와 MPDD)에서 강건성과 최첨단 성능을 입증한다.

제안 방법

• 사전 학습된 네트워크에서 계층적 다중 스케일 특징 추출을 통해 입력 이미지를 잠재 특징 공간으로 매핑한다.
• 잠재 공간에서 정상 데이터로 학습된 잠재 확산 모델(DDIM)을 사용해 정상 특징 분포를 모델링한다.
• 재구성 전에 정상 패치 특징의 기억 은행을 사용해 질의 패치를 가중된 최근접 정상 패치로 대체하는 특징 편집 단계를 적용한다.
• 부분적으로 손상된 상태에서 시작해 확산 기반 재구성을 수행하여 노이즈 제거 후 재구성된 특징 맵을 얻는다.
• 원래 특징과 재구성된 특징 간의 재구성 오차로 픽셀/패치 수준의 이상 점수를 계산하고 이를 이미지 수준으로 집계해 로컬라이제이션을 수행한다.
• 정상 샘플로부터 이상 데이터를 합성해 하이퍼파라미터 선택(τ와 K)을 위한 의사 검증 세트를 형성한다.

실험 결과

연구 질문

• RQ1 비지도 설정에서 잠재 확산 모델이 여러 클래스에 걸친 정상 영역과 이상 영역을 더 잘 구분할 수 있을까?
• RQ2 기억 은행을 활용한 특징 편집을 도입하면 재구성 품질이 향상되고 확산 기반 이상 탐지에서 정체성 단축이 감소할까?
• RQ3 합성 이상으로부터 얻은 의사 검증 세트가 비지도 AD에서 하이퍼파라미터 선택을 효과적으로 안내할 수 있을까?
• RQ4 다양한 데이터셋(MVTec-AD 및 MPDD)에서 LafitE의 탐지와 로컬라이제이션 성능이 최첨단 방법들과 비교해 어떠한가?

주요 결과

• LafitE는 MVTec-AD 및 MPDD에서 다클래스 이상 탐지 및 로컬라이제이션에 대해 여러 비교 기준 대비 평균 AUROC에서 최첨단 성능을 달성한다.
• 기억 은행을 활용한 특징 편집은 확산만 기반의 기준선(LafitE w/o F.E.)에 비해 일관되게 성능을 향상시킨다.
• 잠재 특징 공간의 확산 모델은 정체성 단축을 완화하고 정상 영역의 재구성을 개선하여 거짓 양성을 줄인다.
• 의사 검증을 위한 합성 이상 데이터가 하이퍼파라미터 선택을 실제 테스트 성능과 정렬시켜 비지도 튜닝을 효과적으로 뒷받침한다.
• 추론 연구는 LafitE가 데이터셋 전반에 걸쳐 UniAD 및 다른 기준선보다 우수하며 범주 간 일관성도 향상됨을 보여준다.