[논문 리뷰] Does Your Model Know the Digit 6 Is Not a Cat? A Less Biased Evaluation of "Outlier" Detectors

Alireza Shafaei, Mark Schmidt외 1명|arXiv (Cornell University)|2018. 09. 13.

Anomaly Detection Techniques and Applications인용 수 36

한 줄 요약

이 논문은 이미지 분류에서 분포 외(Distribution-Outside, OOD) 탐지 방법을 공정하게 평가하기 위한 세 개의 데이터셋 평가 프레임워크인 OD-test를 제안한다. 학습, 분포 내 검증, 다양한 OOD 테스트 세트를 분리함으로써 기존 방법이 실제 고차원 이미지 OOD 탐지에서 빈약하게 성능을 내는 것으로 드러나며, 현재의 벤치마크와 모델 신뢰성에 대한 핵심적인 한계를 드러낸다.

ABSTRACT

In the real world, a learning system could receive an input that looks nothing like anything it has seen during training, and this can lead to unpredictable behaviour. We thus need to know whether any given input belongs to the population distribution of the training data to prevent unpredictable behaviour in deployed systems. A recent surge of interest on this problem has led to the development of sophisticated techniques in the deep learning literature. However, due to the absence of a standardized problem formulation or an exhaustive evaluation, it is not evident if we can rely on these methods in practice. What makes this problem different from a typical supervised learning setting is that we cannot model the diversity of out-of-distribution samples in practice. The distribution of outliers used in training may not be the same as the distribution of outliers encountered in the application. Therefore, classical approaches that learn inliers vs. outliers with only two datasets can yield optimistic results. We introduce OD-test, a three-dataset evaluation scheme as a practical and more reliable strategy to assess progress on this problem. The OD-test benchmark provides a straightforward means of comparison for methods that address the out-of-distribution sample detection problem. We present an exhaustive evaluation of a broad set of methods from related areas on image classification tasks. Furthermore, we show that for realistic applications of high-dimensional images, the existing methods have low accuracy. Our analysis reveals areas of strength and weakness of each method.

연구 동기 및 목표

• 딥러닝에서 분포 외(OOD) 탐지에 대한 표준화되고 신뢰할 수 있는 평가의 부족을 해결한다.
• 기존의 두 데이터셋 접근 방식이 분포 불일치로 인해 OOD 탐지 성능을 과대평가한다는 결함을 드러낸다.
• 실제 운영 조건을 더 잘 반영하는 실용적이고 재현 가능한 평가 체계를 제공한다.
• 더 현실적이고 다양한 외부 분포를 포함한 이미지 분류 작업에서 다양한 OOD 탐지 방법을 평가한다.
• 특히 의미적으로 유사하지만 분포 외인 입력(예: '6' vs. '고양이')에 대해 기존 방법의 한계를 드러낸다.

제안 방법

• 학습 세트, 분포 내 검증 세트, 다양한 OOD 테스트 세트로 구성된 세 개의 데이터셋 평가 프로토콜인 OD-test를 제안한다.
• 분포 내 데이터로 표준 이미지 분류 데이터셋(예: CIFAR-10, SVHN)을 사용하고, 다양한 출처에서 수집한 OOD 이미지 세트를 활용한다.
• 모델의 강건성 테스트를 위해 의미적으로 유사하지만 분포 외인 예시(예: 숫자 '6'이 고양이처럼 보이는 객체)를 OOD 테스트 세트에 포함시킨다.
• 다양한 모델과 아키텍처를 대상으로 AUROC 및 95% TPR에서의 FPR과 같은 표준 지표를 사용해 OOD 검출기 성능을 평가한다.
• 향후 방법들이 일관되고 현실적인 조건에서 평가될 수 있도록 모듈러하고 확장 가능한 벤치마크를 설계한다.
• 특정 외부 패턴에 과적합되지 않도록 다양하고 대표성이 없는 OOD 분포를 사용하는 것이 중요하다는 점을 강조한다.

실험 결과

연구 질문

• RQ1 학습 시 사용된 외부 분포와 다른 실제적이고 다양한 OOD 테스트 세트에서 현재 OOD 탐지 방법의 성능는 어떻게 되는가?
• RQ2 기존의 두 데이터셋 평가 체계가 분포 불일치로 인해 실제 OOD 탐지 성능을 얼마나 과대평가하는가?
• RQ3 의미적으로 유사하지만 분포 외인 입력(예: 숫자 '6'이 '고양이'로 잘못 분류되는 경우)에서 방법의 성능는 어떠한가?
• RQ4 고차원 이미지 데이터에 적용했을 때 기존 OOD 탐지 방법의 주요 실패 원인은 무엇인가?
• RQ5 표준화된 세 개의 데이터셋 벤치마크가 OOD 탐지 평가의 신뢰성과 비교 가능성에 어떻게 기여할 수 있는가?

주요 결과

• 기존 OOD 탐지 방법들은 표준 두 데이터셋 평가와는 달리 제안된 OD-test 벤치마크에서 상당히 낮은 성능를 보인다.
• 많은 모델들이 의미적으로 유사하지만 분포 외인 입력(예: 숫자 '6'이 고양이로 잘못 인식되는 경우)을 구분하지 못해 강건성에 심각한 결함이 드러난다.
• 표준 벤치마크와 OD-test 간의 성능 격차는 분포 불일치로 인한 이전 평가의 과도한 낙관주의를 드러낸다.
• 최첨단 방법들조차도 OD-test에서 AUROC 점수가 낮게(예: 0.85 이하) 나타나 향후 개선 여지가 크다는 것을 시사한다.
• OD-test의 OOD 테스트 세트는 단순한 벤치마크에서는 드러나지 않는 현재 방법의 약점을 폭 드러낸다.
• 세 데이터셋 체계는 실제 운영 도전 과제를 더 잘 반영하는 더 신뢰할 수 있고 실용적인 평가 프레임워크를 제공한다.