[논문 리뷰] Asymmetric Student-Teacher Networks for Industrial Anomaly Detection

Marco Rudolph, Tom Wehrbein외 2명|arXiv (Cornell University)|2022. 10. 14.

Anomaly Detection Techniques and Applications인용 수 12

한 줄 요약

이 논문은 산업적 이상 탐지용 비대칭 학생-교수 네트워크(Asymmetric Student-Teacher Networks, AST)를 제안한다. 여기서 정규화 플로우는 이항 교수가 되고, 기존의 순방향 신경망은 학생이 된다. 아키텍처의 비대칭성을 강제함으로써 이상치에 대해 큰 출력 차이를 유도함으로써, 대칭적 학생-교수 및 가능도 기반 방법보다 우수한 성능을 보이며, MVTec 3D-AD에서 93.7%의 SOTA AUROC 점수와 RGB 데이터에서 88.0%의 SOTA AUROC 점수를 달성한다.

ABSTRACT

Industrial defect detection is commonly addressed with anomaly detection (AD) methods where no or only incomplete data of potentially occurring defects is available. This work discovers previously unknown problems of student-teacher approaches for AD and proposes a solution, where two neural networks are trained to produce the same output for the defect-free training examples. The core assumption of student-teacher networks is that the distance between the outputs of both networks is larger for anomalies since they are absent in training. However, previous methods suffer from the similarity of student and teacher architecture, such that the distance is undesirably small for anomalies. For this reason, we propose asymmetric student-teacher networks (AST). We train a normalizing flow for density estimation as a teacher and a conventional feed-forward network as a student to trigger large distances for anomalies: The bijectivity of the normalizing flow enforces a divergence of teacher outputs for anomalies compared to normal data. Outside the training distribution the student cannot imitate this divergence due to its fundamentally different architecture. Our AST network compensates for wrongly estimated likelihoods by a normalizing flow, which was alternatively used for anomaly detection in previous work. We show that our method produces state-of-the-art results on the two currently most relevant defect detection datasets MVTec AD and MVTec 3D-AD regarding image-level anomaly detection on RGB and 3D data.

연구 동기 및 목표

• 대칭적 학생-교수 네트워크가 유사한 아키텍처의 의도하지 않은 일반화로 인해 이상 탐지에 실패하는 문제를 해결하기 위해.
• 정규화 플로우 기반 가능도 추정의 한계를 극복하기 위해, 가능도가 잘못 추정되어 잘못된 이상 탐지가 발생할 수 있음을 고려하기 위해.
• 외부 분포(이상) 입력에 대해 출력 차이를 증폭시키기 위해 아키텍처의 비대칭성을 활용하여 이상 탐지 성능을 향상시키기 위해.
• 2D RGB 및 3D 깊이 데이터, 그리고 그 융합을 포함한 산업적 결함 탐지에서의 효과성을 입증하기 위해.
• 학생-교수 거리가 정규화 플로우 교수가 제공하는 가능도보다 더 견고한 이상 탐지 점수임을 보여주기 위해.

제안 방법

• 교수는 정규화 플로우로, 정규 분포를 모델링하기 위해 최대 가능도 기반으로 훈련되어 이항성과 분포 이탈에 민감하도록 보장된다.
• 학생은 정규화된 훈련 데이터에서 교수의 출력을 따라하도록 훈련되는 표준 순방향 신경망이다.
• 이상치는 아키텍처의 불일치로 인해 학생이 외부 분포 입력을 일반화할 수 없기 때문에, 교수와 학생 간의 출력 거리가 크게 증가한다.
• 훈련 및 추론 중에 전경 마스킹을 사용하여 배경 간섭을 억제하고 관련 객체 영역에 집중하도록 한다.
• 3D 데이터에 대해 위치 인코딩을 적용하여 공간 인식 능력과 탐지 성능을 향상시킨다.
• 최종 이상 탐지 점수는 학생과 교수의 출력 간 L2 거리이며, 이는 교수의 가능도만 사용하는 것보다 더 견고하다.

실험 결과

연구 질문

• RQ1 대칭적 학생-교수 네트워크가 설계상 이상 탐지에 효과적이지 않은 이유는 무엇인가?
• RQ2 학생과 교수 간의 아키텍처 비대칭성이 이상 탐지 성능 향상에 기여하는가?
• RQ3 정규화 플로우 교수가 제공하는 가능도보다 학생-교수 거리가 더 신뢰할 수 있는 이상 탐지 점수인가?
• RQ4 RGB와 3D 데이터를 융합할 경우 제안된 AST 프레임워크에서 이상 탐지 성능에 어떤 영향을 미치는가?
• RQ5 전경 마스킹과 위치 인코딩은 3D 결함 탐지에서 탐지 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 AST 방법은 MVTec 3D-AD에서 93.7%의 AUROC, RGB 데이터에서 88.0%의 AUROC를 기록하여 모든 기준 모델을 초월하는 SOTA 성능을 달성한다.
• 더 깊은 학생 네트워크를 사용하면 대칭 쌍보다 성능 향상이 가능하지만, 최적의 성능-비용 균형은 학생에 4개의 잔차 블록을 사용했을 때 달성된다.
• 전경 마스킹은 3D 데이터에서 탐지 성능을 1.4% 향상시키며, 이는 모델이 관련 객체 영역에 집중할 수 있도록 한다.
• 위치 인코딩은 3D 데이터에서 탐지 성능을 1.4% 향상시키며, 통합에 따른 계산 비용은 극히 적다.
• 학생-교수 거리는 정규화 플로우의 가능도보다 더 견고하며, 가능도가 잘못 추정되는 경우를 보완할 수 있다.
• 위치 인코딩과 마스킹을 사용할 경우 AST 프레임워크는 3D+RGB 데이터에서 93.8%의 AUROC를 기록하여 다양한 모odal 간 강력한 일반화 성능을 입증한다.