[논문 리뷰] Visual Anomaly Detection Via Partition Memory Bank Module and Error Estimation

Peng Xing, Zechao Li|arXiv (Cornell University)|2022. 09. 26.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 분할 메모리 백업(Partition Memory Bank, PMB) 모듈과 히스토그램 오차 추정 모듈을 사용하는 새로운 비지도 시각적 이상 탐지 방법을 제안한다. PMB는 고유한 분할 기반 쿼리 생성 방법을 통해 의미적으로 완전한 정상 특징을 학습하고 저장하며, 오차 추정 모듈은 누적 복원 오차를 적응적으로 제거하여 표준 벤치마크에서 이상 탐지 및 국소화 성능을 크게 향상시킨다.

ABSTRACT

Reconstruction method based on the memory module for visual anomaly detection attempts to narrow the reconstruction error for normal samples while enlarging it for anomalous samples. Unfortunately, the existing memory module is not fully applicable to the anomaly detection task, and the reconstruction error of the anomaly samples remains small. Towards this end, this work proposes a new unsupervised visual anomaly detection method to jointly learn effective normal features and eliminate unfavorable reconstruction errors. Specifically, a novel Partition Memory Bank (PMB) module is proposed to effectively learn and store detailed features with semantic integrity of normal samples. It develops a new partition mechanism and a unique query generation method to preserve the context information and then improves the learning ability of the memory module. The proposed PMB and the skip connection are alternatively explored to make the reconstruction of abnormal samples worse. To obtain more precise anomaly localization results and solve the problem of cumulative reconstruction error, a novel Histogram Error Estimation module is proposed to adaptively eliminate the unfavorable errors by the histogram of the difference image. It improves the anomaly localization performance without increasing the cost. To evaluate the effectiveness of the proposed method for anomaly detection and localization, extensive experiments are conducted on three widely-used anomaly detection datasets. The encouraging performance of the proposed method compared to the recent approaches based on the memory module demonstrates its superiority.

연구 동기 및 목표

• 기존 메모리 모듈이 이상 샘플이 논리적 쿼리 재조직으로 인해 의미적 통일성이 손상되는 바람에 여전히 낮은 복원 오차를 기록하는 문제를 해결한다.
• PMB 모듈에서 고유한 분할 기반 기반의 구조와 쿼리 생성 전략을 통해 공간적 및 채널별 맥락을 유지하여 정상 특징의 학습을 향상시킨다.
• 자동에코더 기반 모델에서 누적 복원 오차가 발생하여 정확한 이상 국소화가 어려워지는 문제를 완화하기 위해, 특히 미세하거나 소규모 영역의 이상에 대해 복원 오차를 줄인다.
• 추가적인 파rameter 없이도 이상 탐지 및 국소화 성능을 향상시키기 위해 히스토그램 기반 오차 추정 메커니즘을 도입하여 오차 가중치를 적응적으로 조정한다.
• 스킵 연결과의 통합을 최적화하여 고수준의 의미 일관성과 세부 특징 복원 간의 균형을 맞춘다.

제안 방법

• 특징 맵을 공간적 분할으로 나누고 원래 특징 맵의 의미적 및 맥락 정보를 유지하는 쿼리를 생성하는 분할 메모리 백업(PMB) 모듈을 도입한다.
• 채널 간 논리적 재조직을 방지하는 고유한 쿼리 생성 방법을 설계하여, 메모리 모듈이 실제 정상 특징을 학습하고 추상화된 논리 패턴을 학습하지 않도록 한다.
• 복원 과정에서 PMB 모듈과 스킵 연결을 번갈아 사용하여 이상 특징이 저장된 정상 특징에 의존함으로써 복원 성능이 떨어지도록 유도한다.
• 정상 영역의 복원 오차 차이 분포를 분석하여 불리한 오차를 적응적으로 제거하는 히스토그램 오차 추정 모듈을 제안한다.
• 입력과 복원된 특징 간의 차이 이미지의 히스토그램을 사용하여 오차 가중치를 동적으로 조정함으로써 추가 파rameter 없이도 국소화 정밀도를 향상시킨다.
• 검출 성능와 국소화 성능의 균형을 맞추기 위해 분할 수(k), PMB 레이어 수(L), 반복 횟수(p) 등의 하이퍼파ram터를 최적화한다.

Figure 1: Illustration of the query generation methods for different memory modules. Figures (1) [ 10 ] and (2) [ 11 ] represent the logical query generated from the same position in the feature map, with different channels. Figure (3) represents the proposed query. It preserves the critical feature

실험 결과

연구 질문

• RQ1 공간적 분할을 통해 정상 특징의 의미적 통일성을 유지하는 메모리 모듈이 정상 샘플의 복원 정확도를 향상시키고 이상 샘플의 오차를 증가시키는가?
• RQ2 기존 메모리 모듈과 비교해 본다면, 제안된 PMB 모듈은 특징 표현 품질과 이상 탐지 능력 측면에서 어떤가?
• RQ3 히스토그램 오차 추정 모듈은 자동에코더 기반 이상 탐지에서 누적 복원 오차를 어느 정도 줄이고 국소화 정확도를 향상시키는가?
• RQ4 검출 성능와 국소화 성능를 균형 있게 유지하기 위해 PMB 모듈의 최적 설정(예: 분할 수 k, 레이어 수 L, 반복 수 p)은 무엇인가?
• RQ5 PMB와 스킵 연결을 함께 사용할 경우, 다양한 데이터셋에 걸쳐 복원 품질 향상과 이상 식별 능력 향상이 이루어지는가?

주요 결과

• 제안된 방법은 MVTec AD, MNIST, Retinal-OCT 세 가지 벤치마크 데이터셋에서 최신 기준 성능을 달성했으며, MNIST에서 98.1% AUC, Retinal-OCT에서 98.0% AUC를 기록했다.
• MVTec AD 데이터셋에서 k=(4,4,4) 조건 하에 97.6% AUC를 달성하여, 특히 무늬나 미세한 이상에 대해 뛰어난 검출 성능를 보였다.
• PMB와 스킵 연결을 조합한 경우, 스킵 연결이 없는 기준 모델 대비 검출 성능이 6% 향상되었으며, 특히 무늬가 풍부한 이미지에서 유의미한 개선 효과를 보였다.
• 작은 k 값(예: k=(2,2,2))은 더 강한 오차 증폭 효과로 인해 국소화 성능이 향상되며, 더 큰 k 값은 더 세밀한 특징 학습을 가능하게 하여 검출 성능 향상에 기여한다.
• 히스토그램 오차 추정 모듈은 누적 복원 오차를 효과적으로 줄여 미세한 이상이 있는 정상 영역에서도 고정밀 국소화를 가능하게 했다.
• 최근의 메모리 기반 접근법보다 특징 학습과 오차 보정을 공동 최적화함으로써 다양한 데이터 분포와 이상 유형에 효과적으로 작용함을 입증했다.

Figure 2: The differences in query generation method and memory item between the proposed method and the traditional method. ”ERROR” represents reconstruction error. The memory modules are both learned from the reconstruction task of category A to category A using reconstruction loss update. However