[논문 리뷰] Understanding Failures in Out-of-Distribution Detection with Deep Generative Models

Lily H. Zhang, Larry B. Goldstein외 1명|arXiv (Cornell University)|2021. 07. 14.

Generative Adversarial Networks and Image Synthesis인용 수 24

한 줄 요약

이 논문은 심층 생성 모델(DGMs)을 사용한 분포 외(OOD) 탐지 실패의 주요 원인이 가능도 기반 탐지의 본질적 결함이 아니라 모델 추정 오차에 기인한다고 주장한다. 심지어 고성능 DGM이라도, 특히 내·외분포가 서로 겹치지 않는 지원을 가질 경우, 지원의 잘못된 추정으로 인해 OOD 샘플에 더 높은 가능도를 부여할 수 있음을 보여주며, 일반적으로 인용되는 일반 집합 가설이 OOD 탐지 실패에 대한 충분한 기초로 부적절하다고 도전한다.

ABSTRACT

Deep generative models (DGMs) seem a natural fit for detecting out-of-distribution (OOD) inputs, but such models have been shown to assign higher probabilities or densities to OOD images than images from the training distribution. In this work, we explain why this behavior should be attributed to model misestimation. We first prove that no method can guarantee performance beyond random chance without assumptions on which out-distributions are relevant. We then interrogate the typical set hypothesis, the claim that relevant out-distributions can lie in high likelihood regions of the data distribution, and that OOD detection should be defined based on the data distribution's typical set. We highlight the consequences implied by assuming support overlap between in- and out-distributions, as well as the arbitrariness of the typical set for OOD detection. Our results suggest that estimation error is a more plausible explanation than the misalignment between likelihood-based OOD detection and out-distributions of interest, and we illustrate how even minimal estimation error can lead to OOD detection failures, yielding implications for future work in deep generative modeling and OOD detection.

연구 동기 및 목표

• 심층 생성 모델(DGMs)이 내분포 샘플을 학습한 후에도 분포 외(OOD) 샘플에 더 높은 가능도를 부여하는 이유를 조사하기 위해.
• 일반적으로 인용되는 '일반 집합 가설'—즉, 관련 OOD 분포가 데이터 분포의 고가능도 영역에 존재한다는 주장—이 OOD 탐지 실패에 대한 설명으로 타당하지 않다는 점을 도전하기 위해.
• 내분포와 외분포의 지원이 겹칠 경우, 완벽한 모델이라도 OOD 탐지 성능에 내재된 상한선이 존재한다는 것을 보여주기 위해.
• OOD 탐지 실패의 근본 원인이 분포 간 불일치가 아니라 추정 오차라는 것을 주장하기 위해.
• 향후 연구를 이끌기 위해, OOD 탐지 향상은 일반 집합 기반 탐지 기준을 재정의하는 데서가 아니라 모델의 잘못된 추정을 수정하는 데 초점을 맞춰야 한다고 제안하기 위해.

제안 방법

• 특정 외분포에 대한 가정이 없이선 어떤 OOD 탐지 방법도 랜덤 추측 수준을 초과하는 성능을 보장할 수 없음을 증명하기 위해.
• 내분포와 외분포의 지원이 겹친다는 가정을 두고 일반 집합 가설을 분석하여, 이 가정이 기본적인 성능 한계를 초래한다는 것을 보여주기 위해.
• 지원 겹침이 존재할 경우, 내분포의 완벽한 모델조차도 잘못된 추정을 한 모델보다 OOD 탐지 성능이 열 劣하다는 것을 보여주기 위해.
• 실험적 결과를 통해 부분적으로 훈련된 DGM이 지원 겹침이 발생할 경우 진짜 데이터 분포보다 OOD 탐지에서 더 뛰어난 성능을 보일 수 있음을 보여주기 위해.
• OOD 이미지에 할당된 높은 가능도가 분포의 지원을 잘못 추정한 결과, 실제로 확률이 0이 되어야 할 영역에 비영확률을 할당한 추정 오차 때문이라는 것을 설명하기 위해.
• 최근 일반 집합 가설에 기반한 OOD 탐지 방법들은 오히려 추정 오차를 보완하고 있을 수 있으며, 이는 이러한 방법들의 성공을 재해석할 수 있음을 주장하기 위해.

실험 결과

연구 질문

• RQ1 심층 생성 모델이 내분포 샘플을 학습한 후에도 분포 외(OOD) 이미지에 더 높은 가능도를 부여하는 이유는 무엇인가?
• RQ2 일반적으로 인용되는 일반 집합 가설—즉, 관련 OOD 분포가 데이터 분포의 고가능도 영역에 존재한다는 주장—은 OOD 탐지에 타당한가?
• RQ3 내분포와 외분포의 지원이 겹칠 경우, OOD 탐지의 성능 한계는 무엇인가?
• RQ4 심층 생성 모델의 추정 오차가 분포 간 불일치보다 OOD 탐지 실패를 얼마나 잘 설명할 수 있는가?
• RQ5 일반 집합에 기반한 OOD 탐지 방법들은 실제로 모델의 추정 오차를 보완하고 있을 수 있으며, 이는 향후 모델 설계에 어떤 함의를 갖는가?

주요 결과

• 특정 외분포에 대한 가정이 없이선 어떤 OOD 탐지 방법도 랜덤 추측 수준을 초과하는 성능을 보장할 수 없으며, 이는 OOD 집합을 명시적으로 정의할 필요성을 강조한다.
• 일반 집합 가설은 문제가 있는데, 내분포와 외분포의 지원 겹침을 가정하기 때문이며, 이는 OOD 탐지 성능에 해결할 수 없는 상한선을 초래한다.
• 지원 겹침이 존재할 경우, 내분포의 완벽한 모델조차도 잘못된 추정을 한 모델보다 OOD 탐지 성능이 열 劣할 수 있다.
• 실험 결과에 따르면, 지원 겹침이 발생할 경우 부분적으로 훈련된 DGM이 진짜 데이터 분포보다 OOD 탐지에서 더 뛰어난 성능을 보일 수 있으며, 이는 추정 오차가 분포 간 불일치보다 더 타당한 설명임을 시사한다.
• OOD 이미지에 할당된 높은 가능도는 일반 집합 가설보다는, 실제로 확률이 0이 되어야 할 영역에 비영확률을 할당한 추정 오차로 더 잘 설명된다.
• 최근 일반 집합 가설에 기반한 OOD 탐지 방법들은 오히려 추정 오차를 보완하고 있을 수 있으며, 이는 이러한 방법들의 성공을 재해석하고 모델 향상의 길을 제시한다.