[논문 리뷰] A Unified Survey on Anomaly, Novelty, Open-Set, and Out-of-Distribution Detection: Solutions and Future Challenges

Mohammadreza Salehi, Hossein Mirzaei외 4명|arXiv (Cornell University)|2021. 10. 26.

Anomaly Detection Techniques and Applications인용 수 87

한 줄 요약

이상 탐지, 신규 탐지, 개방집합 인식, 분포 외 탐지 간의 교차 도메인 포괄적 설문으로, 공통 방법론, 관계, 그리고 향후 연구 방향을 자세히 설명한다.

ABSTRACT

Machine learning models often encounter samples that are diverged from the training distribution. Failure to recognize an out-of-distribution (OOD) sample, and consequently assign that sample to an in-class label significantly compromises the reliability of a model. The problem has gained significant attention due to its importance for safety deploying models in open-world settings. Detecting OOD samples is challenging due to the intractability of modeling all possible unknown distributions. To date, several research domains tackle the problem of detecting unfamiliar samples, including anomaly detection, novelty detection, one-class learning, open set recognition, and out-of-distribution detection. Despite having similar and shared concepts, out-of-distribution, open-set, and anomaly detection have been investigated independently. Accordingly, these research avenues have not cross-pollinated, creating research barriers. While some surveys intend to provide an overview of these approaches, they seem to only focus on a specific domain without examining the relationship between different domains. This survey aims to provide a cross-domain and comprehensive review of numerous eminent works in respective areas while identifying their commonalities. Researchers can benefit from the overview of research advances in different fields and develop future methodology synergistically. Furthermore, to the best of our knowledge, while there are surveys in anomaly detection or one-class learning, there is no comprehensive or up-to-date survey on out-of-distribution detection, which our survey covers extensively. Finally, having a unified cross-domain perspective, we discuss and shed light on future lines of research, intending to bring these fields closer together.

연구 동기 및 목표

• 이상 탐지, 신규 탐지, 개방집합 인식, 분포 외 탐지 간의 관계와 공통점 식별 및 명시하기.
• 교차 도메인, 통합된 방법론적 리뷰를 명확한 설명과 시각 자료와 함께 제공하기.
• 대표적 기준선의 평가 및 벤치마킹을 통해 현재 및 향후 연구의 견고한 기반 마련하기.
• 공정성, 적대적 강건성, 프라이버시, 데이터 효율성, 설명가능성 등 실용적 향후 방향 제시하기.

제안 방법

• 아이디어를 분야 간으로 확산시키기 위한 통합 분류와 교차 도메인 다리 제시.
• 이해를 돕기 위한 수학적 및 시각적 방법 설명 제시.
• AD, ND, OSR, OOD 간의 최근 딥러닝 기반 방법을 공통 분류체계를 활용해 요약·비교하기.
• 현존하는 기준선에 대해 광범위한 테스트를 수행해 현재 및 향후 연구 방향의 기반 마련하기.
• 공정성, 강건성, 프라이버시, 설명가능성 등과 같은 실용적 필요성과 향후 연구 방향 제시하기.

실험 결과

연구 질문

• RQ1 이상 탐지, 신규 탐지, 개방집합 인식, 분포 외 탐지 간의 연결성과 차이점은 무엇인가?
• RQ2 이들 영역에서 지배적 방법론적 접근 방식은 무엇이며, 아이디어를 서로 이전할 수 있는 방법은 무엇인가?
• RQ3 벤치마킹 관행과 기준선은 무엇이 있으며, 교차 도메인 작업에서 어떻게 성능을 보이는가?
• RQ4 신뢰할 수 있는 개방형 세계 학습을 위한 주요 향후 도전과 필요 연구 방향은 무엇인가?

주요 결과

• 본 논문은 AD, ND, OSR, OOD 간의 관계를 식별하고 명시하며, 이들이 개념을 공유하지만 고립된 연구가 이루어졌다는 점을 보인다.
• 도메인 간 명확한 이론적 및 시각적 설명과 함께 포괄적 방법론 분석을 제공한다.
• 현존하는 기준선에 대한 광범위한 테스트를 수행해 현재 및 향후 연구 방향의 견고한 기반을 마련한다.
• 설문은 공정성, 적대적 강건성, 프라이버시, 데이터 효율성, 설명가능성 등을 강조하며 향후 연구의 타당한 방향을 제시한다.