[논문 리뷰] Anomalous Example Detection in Deep Learning: A Survey

Saikiran Bulusu, Bhavya Kailkhura외 3명|arXiv (Cornell University)|2020. 03. 16.

Anomaly Detection Techniques and Applications참고 문헌 112인용 수 9

한 줄 요약

이 종합 검토는 딥러닝 모델을 위한 사후 이상 탐지 기법에 대한 종합적이고 체계적인 개요를 제공하며, 분포 외 및 적대적 예측을 탐지하기 위한 가정과 접근 방식에 따라 기법을 분류한다. 복잡한 이상 탐지 및 표준화된 평가의 부족과 같은 주요 과제를 규명하고, 고위험 딥러닝 응용 분야에서 강건하고 일반화 가능한 이상 탐지 향향 연구 방향을 제시한다.

ABSTRACT

Deep Learning (DL) is vulnerable to out-of-distribution and adversarial examples resulting in incorrect outputs. To make DL more robust, several posthoc (or runtime) anomaly detection techniques to detect (and discard) these anomalous samples have been proposed in the recent past. This survey tries to provide a structured and comprehensive overview of the research on anomaly detection for DL based applications. We provide a taxonomy for existing techniques based on their underlying assumptions and adopted approaches. We discuss various techniques in each of the categories and provide the relative strengths and weaknesses of the approaches. Our goal in this survey is to provide an easier yet better understanding of the techniques belonging to different categories in which research has been done on this topic. Finally, we highlight the unsolved research challenges while applying anomaly detection techniques in DL systems and present some high-impact future research directions.

연구 동기 및 목표

• 딥러닝 모델을 위한 사후 이상 탐지 기법에 대한 체계적이고 종합적인 검토를 제공하는 것.
• 기본 가정과 접근 방식에 기반해 기존 기법을 분류하고, 강점과 약점을 부각하는 것.
• 실제 딥러닝 응용 분야에서 복잡하고 적응형이며 알 수 없는 이상 탐지에 있어 해결되지 않은 과제를 규명하는 것.
• 평가 및 강건성 향상을 위해 원칙적인 벤치마크와 이론적 기반을 강화할 것을 주장하는 것.
• 이미지 분류를 넘어서 텍스트, 그래프 등의 다른 데이터 유형과 객체 검출, 계획 수립 등의 다른 작업으로 연구를 확장하는 것.

제안 방법

• 데이터 분포, 모델 행동 등의 가정과 불확실성 추정, 재구성, 에너지 기반 모델 등의 접근 방식에 기반해 딥러닝에서의 이상 탐지 기법에 대한 분류 체계를 제안한다.
• 모델 훈련 후 작동하며 재훈련이 필요 없는 사후 검출기로 기법을 분류한다.
• 분포 외 및 적대적 입력을 탐지하기 위해 마할라노비스 거리, ODIN, 에너지 기반 모델, 재구성 기반 오토에인코더 등의 방법을 검토한다.
• 다양한 검출기를 조합하여 강건성과 성능을 향상시키는 앙상블 방법의 중요성을 강조한다.
• 순차적 또는 구조화된 데이터에서 이상을 탐지하기 위해 공간적 및 시간적 일관성을 인덕티브 바이어스로 활용하는 방법을 논의한다.
• 기존 분포를 초월한 알 수 없는-알 수 없는 이상을 다루기 위해 도메인 일반화와 메타학습의 필요성을 강조한다.

실험 결과

연구 질문

• RQ1 딥러닝에서의 이상 탐지 기법은 어떤 가정과 방법론에 기반해 체계적으로 분류될 수 있는가?
• RQ2 현재의 사후 이상 탐지 기법이 복잡하고 상관관계가 있거나 맥락 의존적인 이상을 다룰 때 겪는 주요 한계는 무엇인가?
• RQ3 왜 이상 탐지 성능의 신뢰할 수 있는 평가는 특히 어렵고, 이를 해결하기 위해 어떤 벤치마크가 필요할까?
• RQ4 딥러닝에서 이상 탐지의 이론적 기반과 기본 한계를 더 잘 이해하고 형식화하기 위해선 무엇이 필요한가?
• RQ5 이미지 분류를 넘어서 다른 데이터 모odal리티와 작업으로 이상 탐지 영역을 확장하기 위해 가장 유망한 향후 연구 방향은 무엇인가?

주요 결과

• 대부분의 기존 이상 탐지 기법은 이미지 분류에 집중되어 있으며, 텍스트, 그래프 또는 다양체와 같은 다른 데이터 유형으로 일반화하지 못한다.
• 현재 평가 관행은 이전에 관측된 이상에 의존함으로써 종종 불완전하거나 오해의 소지가 있으며, 과적합 및 알 수 없는-알 수 없는 이상으로의 일반화 성능 저하를 초래할 수 있다.
• 다양한 이상 탐지 전략을 조합한 앙상블 기반 검출기는 개별 방법보다 성능 향상이 뚜렷하다.
• 많은 히وري스틱 방어 및 탐지 기법은 적응형 공격에 쉽게 무너지므로, 더 강력한 이론적 기반의 필요성이 부각된다.
• 이전에 다루지 않은 상관관계가 있거나 맥락에 의존하는 이상은 현재 탐지 프레임워크에 큰 도전을 주며, 새로운 탐지 철학이 필요하다.
• 적응형 및 미리 보지 못한 이상에 대한 성능 평가를 위해 표준화되고 원칙적인 벤치마크가 절실하게 필요하다.