[논문 리뷰] Self-Supervised Out-of-Distribution Detection and Localization with Natural Synthetic Anomalies (NSA).

Hannah M. Schlüter, Jeremy Tan외 2명|arXiv (Cornell University)|2021. 09. 30.

Anomaly Detection Techniques and Applications참고 문헌 25인용 수 14

한 줄 요약

이 논문은 포isson 편집을 통해 스케일링된 이미지 패치를 융합하여 현실적이고 끊어짐이 없는 합성 이상 현상을 생성하는 자기지도 학습 방법인 자연적 합성 이상 현상(Natural Synthetic Anomalies, NSA)을 제안한다. 정상 데이터만으로 훈련된 모델은 MVTec AD에서 97.2%의 AUROC를 기록하여 사전 훈련 없이도 이전의 모든 자기지도 학습 방법을 능가하며, 알려지지 않은 제조 결함에 대해서도 잘 일반화된다.

ABSTRACT

We introduce a new self-supervised task, NSA, for training an end-to-end model for anomaly detection and localization using only normal data. NSA uses Poisson image editing to seamlessly blend scaled patches of various sizes from separate images. This creates a wide range of synthetic anomalies which are more similar to natural sub-image irregularities than previous data-augmentation strategies for self-supervised anomaly detection. We evaluate the proposed method using natural and medical images. Our experiments with the MVTec AD dataset show that a model trained to localize NSA anomalies generalizes well to detecting real-world a priori unknown types of manufacturing defects. Our method achieves an overall detection AUROC of 97.2 outperforming all previous methods that learn from scratch without pre-training datasets.

연구 동기 및 목표

• 다양한 이상 데이터에 접근할 수 없는 상황에서, 합성 이상 현상을 활용한 자기지도 학습 과제를 도입하여 이상 탐지 모델을 훈련하는 데 도전한다.
• 기존의 데이터 증강 기법과 비교해 더 현실적이고 일반화 능력이 뛰어난 합성 이상 현상을 개선한다.
• 정상 이미지만을 사용하여 이상 탐지 및 국소화를 위한 엔드 투 엔드 훈련을 가능하게 한다.
• 자연 이미지와 의료 영상 모두에서 방법을 평가하여 다양한 도메인에서의 강건성을 입증한다.
• 외부 데이터셋에서의 사전 훈련 없이도 MVTec AD 벤치마크에서 최신 기술 수준의 성능을 달성한다.

제안 방법

• 다양한 이미지에서 무작위로 선택한 패치를 포isson 이미지 편집을 사용해 목표 이미지에 융합하여 끊어짐이 없는 통합을 이루는 방식으로 합성 이상 현상을 생성한다.
• 다양한 크기의 패치를 사용하여 자연스러운 하위 이미지 이상 현상과 유사한 다양한 이상 패턴을 생성한다.
• 딥 러닝 모델을 엔드 투 엔드로 훈련하여 자기지도 사전 훈련 중에 이러한 합성 이상 현상을 탐지하고 국소화한다.
• 블렌딩 과제를 통해 정상 이미지의 구조를 학습할 수 있도록 모델의 능력을 활용하여 추론 시 이상을 식별하도록 한다.
• 대비 학습 목표를 적용하여 모델이 정상 영역과 합성 이상 영역을 구분하도록 유도한다.
• 사전 미세조정 없이도 실제 외부 분포 데이터에 적용할 수 있도록, 학습된 정상 패턴의 일반화 능력을 기반으로 한다.

실험 결과

연구 질문

• RQ1 표준 데이터 증강 기법과 비교해 포isson 블렌딩을 통해 생성된 합성 이상 현상이 자기지도 이상 탐지에서 실제 이상 현상을 더 잘 모방할 수 있는가?
• RQ2 이러한 자연스러운 합성 이상 현상으로 훈련하면 제조 분야에서 사전에 알려지지 않은 결함 유형에 대해 제로샷 일반화 성능이 향상되는가?
• RQ3 정상 이미지만으로 엔드 투 엔드 훈련된 모델이 사전 훈련 없이도 이상 탐지 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 기존의 자기지도 및 약한 지도 학습 방법과 비교해 NSA 방법의 성능은 표준 벤치마크에서 어떻게 나타나는가?
• RQ5 NSA가 생성한 합성 이상 현상이 자연 이미지와 의료 영상에서 실제 이상 현상의 특성을 어느 정도 반영하는가?

주요 결과

• NSA 방법은 MVTec AD 데이터셋에서 전체 탐지 AUROC가 97.2%를 기록하여, 사전 훈련 없이 사전 훈련 없이도 이전의 모든 자기지도 학습 방법을 능가한다.
• NSA 이상 현상으로 훈련된 모델은 훈련 중에 볼 수 없었던 실제, 사전에 알려지지 않은 제조 결함 유형을 효과적으로 탐지할 수 있다.
• 표준 데이터 증강 기법보다 포isson 블렌딩을 통해 생성된 합성 이상 현상이 더 현실적이며 의미적으로 일관성이 있어, 모델의 일반화 능력 향상에 기여한다.
• 이 방법은 다양한 이상 탐지 벤치마크에서 강력한 성능을 기록하여 자연 이미지 및 의료 영상 도메인 모두에서 강건성을 입증한다.
• NSA를 통한 자기지도 훈련은 정상 이미지 구조의 풍부한 표현을 학습할 수 있도록 하여, 탐지 및 국소화 정확도를 향상시킨다.
• 기존 자기지도 학습 방법조차도 사전 훈련을 사용하는 경우가 많지만, NSA 훈련 목표의 효과성 덕분에 이에 비해 우수한 성능을 기록한다.