[논문 리뷰] SQUID: Deep Feature In-Painting for Unsupervised Anomaly Detection

Tiange Xiang, Zhang, Yixiao외 5명|arXiv (Cornell University)|2021. 11. 26.

Anomaly Detection Techniques and Applications참고 문헌 83인용 수 6

한 줄 요약

SQUID는 깊이 특징 보간을 통해 반복적인 해부학적 패턴을 학습하고 재구성하기 위해 공간 인식 메모리 큐를 활용하여 흉부 X-ray 영상에 대한 새로운 비지도 이상 탐지 방법을 제안한다. 이는 ZhangLab 데이터셋에서 13개의 SOTA 방법보다 5점 이상 AUC 향상, CheXpert에서는 10점 이상 향상하여 최고의 성능을 기록한다. 또한 방법 개발과 해석 가능성 향상을 위해 합성된 DigitAnatomy 데이터셋을 도입한다.

ABSTRACT

Radiography imaging protocols focus on particular body regions, therefore producing images of great similarity and yielding recurrent anatomical structures across patients. To exploit this structured information, we propose the use of Space-aware Memory Queues for In-painting and Detecting anomalies from radiography images (abbreviated as SQUID). We show that SQUID can taxonomize the ingrained anatomical structures into recurrent patterns; and in the inference, it can identify anomalies (unseen/modified patterns) in the image. SQUID surpasses 13 state-of-the-art methods in unsupervised anomaly detection by at least 5 points on two chest X-ray benchmark datasets measured by the Area Under the Curve (AUC). Additionally, we have created a new dataset (DigitAnatomy), which synthesizes the spatial correlation and consistent shape in chest anatomy. We hope DigitAnatomy can prompt the development, evaluation, and interpretability of anomaly detection methods.

연구 동기 및 목표

• 수동 레이블이 없는 흉부 레이저 영상에서 미세하고 드문 이상을 탐지하는 도전 과제를 해결하기 위해.
• X-ray 영상 프로토콜에서 높은 공간 일관성과 반복적인 해부학적 구조를 활용하여 이상 탐지 성능을 향상시키기 위해.
• 학습 중 병변이 포함된 이미지의 부분적 오염에 강건한 방법을 개발하여 완벽하게 청소된 데이터셋에 대한 의존도를 줄이기 위해.
• 공간 상관관계와 일관된 해부학적 형태를 반영한 벤치마킹과 해석 가능성 향상을 위해 합성된 데이터셋 DigitAnatomy을 생성하기 위해.
• 정상 패턴을 동적이고 위치 인식 가능한 특징으로 모델링하여 비지도 이상 탐지의 일반화 및 신뢰성을 향상시키기 위해.

제안 방법

• SQUID는 학습 중 입력 영상의 다양한 공간 영역에서 시각적 패턴을 동적으로 저장하고 검색하기 위해 공간 인식 메모리 큐를 사용한다.
• 공간적 맥락에 따라 유사한 패턴을 메모리 큐에서 검색하여 마스크된 특징을 복구하는 특징 수준의 보간을 수행한다.
• Gumbel-Softmax 기반의 top-K 검색 메커니즘이 각 국소 영역에 대해 가장 관련성이 높은 패턴을 메모리 큐에서 선택한다.
• 보간 중 구조적 일관성을 유지하고 재구성 정확도를 향상시키기 위해 마스크된 잔여 경로를 통합한다.
• 디코더 특징을 위한 별도의 메모리 백업을 유지하는 디코더 메모리 모듈이 재구성 정확도를 향상시킨다.
• 일반화 성능 향상을 위해 지식 정복을 적용하고, 특징 학습의 안정성을 확보하기 위해 정지 기울기 연산을 사용한다.

실험 결과

연구 질문

• RQ1 레이저 영상에서 반복적인 해부학적 패턴을 레이블 없이 효과적으로 모델링하고 이상 탐지에 활용할 수 있는가?
• RQ2 메모리 큐의 공간 인식 기능이 비공간적 또는 전역 메모리 메커니즘에 비해 이상 탐지 성능을 얼마나 향상시키는가?
• RQ3 SQUID는 학습 세트에 병변이 포함된 이미지가 존재하더라도 성능 저하 없이 얼마나 견딜 수 있는가?
• RQ4 특징 수준의 보간 메커니즘이 미세한 해부학적 이상을 탐지하는 데 픽셀 수준의 재구성보다 어떻게 우월한가?
• RQ5 DigitAnatomy처럼 합성된 데이터셋이 의료 영상에서 비지도 이상 탐지 모델의 개발과 평가에 효과적으로 기여할 수 있는가?

주요 결과

• Stanford CheXpert 데이터셋에서 SQUID는 최근 13개의 비지도 이상 탐지 방법보다 AUC 10점 이상 향상되어 84.7%의 AUC를 기록한다.
• ZhangLab 데이터셋에서 SQUID는 AUC 87.6%를 기록하여 13개의 SOTA 방법 전부를 최소 5점 이상 앞서며 최고 성능을 기록한다.
• 절단 실험 결과 공간 인식 메모리 큐가 AUC에 +10.0% 기여하고, 보간 블록이 +6.7% 기여함을 확인하여 핵심 기여도를 입증한다.
• 학습 이미지의 최대 50%가 병변을 포함하더라도 모델은 강건성을 유지하며, CutPaste 및 PANDA와 같은 베이스라인을 초월한다.
• 메모리 큐 영역당 200개의 항목만으로도 최적의 성능를 달성하며, 500개 이상으로 증가시킬 경우 AUC 저하가 발생하여 과적합의 징후를 보임을 확인한다.
• 마스크 확률 95% (5%의 특징 스킵 允허) 시 최고의 성능를 기록하며, 이보다 낮은 값은 보간 품질과 탐지 정확도를 심각하게 떨어뜨림을 확인한다.