[논문 리뷰] SoftPatch: Unsupervised Anomaly Detection with Noisy Data

Xi Jiang, Huiling Chen외 7명|arXiv (Cornell University)|2024. 03. 21.

Anomaly Detection Techniques and Applications인용 수 36

한 줄 요약

SoftPatch는 노이즈가 포함된 학습 데이터에서 강건하게 비지도 이상 탐지를 수행하기 위해 패치 수준 denoising과 잡음 구분기, 부드럽게 가중된 메모리 뱅크를 도입하여, 노이즈 설정에서 MVTecAD와 BTAD에서 최첨단 성능을 달성합니다.

ABSTRACT

Although mainstream unsupervised anomaly detection (AD) algorithms perform well in academic datasets, their performance is limited in practical application due to the ideal experimental setting of clean training data. Training with noisy data is an inevitable problem in real-world anomaly detection but is seldom discussed. This paper considers label-level noise in image sensory anomaly detection for the first time. To solve this problem, we proposed a memory-based unsupervised AD method, SoftPatch, which efficiently denoises the data at the patch level. Noise discriminators are utilized to generate outlier scores for patch-level noise elimination before coreset construction. The scores are then stored in the memory bank to soften the anomaly detection boundary. Compared with existing methods, SoftPatch maintains a strong modeling ability of normal data and alleviates the overconfidence problem in coreset. Comprehensive experiments in various noise scenes demonstrate that SoftPatch outperforms the state-of-the-art AD methods on the MVTecAD and BTAD benchmarks and is comparable to those methods under the setting without noise.

연구 동기 및 목표

• 이미지 감각 작업에서 비지도 이상 탐지에 있어 노이즈가 있는 학습 데이터의 실용적 도전을 강조한다.
• 코어셋 구성 전에 노이즈 패치를 필터링하기 위한 패치 수준 denoising 전략을 제안한다.
• 노이즈 구분기 3개를 도입하여 노이즈 패치를 강건하게 식별하고 코어셋 샘플에 소프트하게 가중치를 적용한다.
• 메모리 확장된 SoftPatch 프레임워크가 강건성을 개선하고 정상 데이터 모델링을 견고하게 유지함을 보여준다.
• 노이즈 조건에서 개선된 성능을 보여주는 MVTecAD 및 BTAD에 대한 실증적 근거를 제공한다.

제안 방법

• 패치 수준 노이즈 구분기를 사용하여 코어셋 샘플링 이전에 각 패치에 이상치 점수를 부여한다.
• 공간 위치별로 특징을 그룹화하고 고노이즈 점수를 가진 상위 tau percent 패치를 제거하여 denoised coreset를 형성한다.
• 세 가지 노이즈 점수화 방법을 탐구한다: Nearest Neighbor, Multi-Variate Gaussian (Mahalanobis distance), 그리고 Local Outlier Factor (LOF), LOF가 최선을 보인다.
• denoised coreset 및 해당 패치별 이상치 가중치를 메모리 뱅크에 저장하여 추론 시 소프트 재가중에 사용한다.
• 메모리 뱅크를 이용한 최근접 이웃 탐색으로 이미지 수준 이상치 점수를 계산하고 패치 수준 거리와 소프트 가중치를 곱한 후 최댓값 패치 점수를 이미지 점수로 취한다.
• PatchCore 베이스라인과 일관되게 서로 다른 백본(backbones) 및 코어셋 샘플링 비율을 선택적으로 채택하되, robust를 위해 임계값 tau와 LOF 파라미터 k는 일정하게 유지한다.

실험 결과

연구 질문

• RQ1 훈련 데이터에 노이즈가 있는 경우 비지도 이미지 감각 이상 탐지에 어떤 영향을 미치는가?
• RQ2 패치 수준 denoising이 노이즈 라벨의 이상 탐지기에서 기억-강화 시스템의 강건성을 개선할 수 있는가?
• RQ3 노이즈 구분기와 소프트 재가중이 노이즈 학습 샘플로 인한 과신 및 잘못된 분류를 완화하는가?
• RQ4 노이즈가 학습 데이터에 존재할 때 표준 벤치마크에서 SoftPatch가 최첨단 방법과 비교하여 어떤 성능을 보이는가?
• RQ5 이 설정에서 패치 수준 denoising에 가장 효과적인 노이즈 점수화 전략은 무엇인가?

주요 결과

• SoftPatch는 No Overlap 및 Overlap 노이즈 설정 모두에서 MVTecAD에서 최첨단 방법들보다 노이즈 학습 데이터에 대한 강건성이 더 높게 나타난다.
• SoftPatch-LOF가 전반적으로 최상의 성능을 달성하여 노이즈 시나리오 전반에서 강건성과 용량의 균형을 이룬다.
• 가우시안 기반 모델링은 denoising에 도움이 되지만 LOF 기반의 패치 수준 구분이 노이즈 설정에서 가장 좋은 성능을 제공한다.
• SoftPatch는 학습 데이터에 노이즈가 포함되어도 BTAD에서 선도적인 성능을 유지하며, 모양이 비슷한 결함도 처리할 수 있다.
• 노이즈 비율이 증가하면 PatchCore의 성능 저하가 SoftPatch보다 더 빠르게 진행되어, 패치 수준 denoising 및 재가중의 강인성을 보여준다.