[논문 리뷰] Dense Out-of-Distribution Detection by Robust Learning on Synthetic Negative Data

Matej Grcić, Petra Bevandić외 2명|arXiv (Cornell University)|2021. 12. 23.

Anomaly Detection Techniques and Applications인용 수 7

한 줄 요약

이 논문은 정규화 흐름을 사용하여 내재 다변량의 경계에서 합성 음성 패치를 생성함으로써 밀도 높은 이상치 검출(OOD)를 위한 새로운 방법인 NFlowJS를 제안한다. 내재 가능성과 합성 이상치에 대한 균일한 예측을 제jensen-Shannon 발산을 통해 동시에 최적화함으로써, 최소한의 계산 오버헤드로도 도로 주행 및 원격 감지 벤치마크에서 최신 기술 수준(SoTA) 성능을 달성하며, GAN 기반 및 GMM 기반의 합성 데이터 접근 방식을 능가한다.

ABSTRACT

Standard machine learning is unable to accommodate inputs which do not belong to the training distribution. The resulting models often give rise to confident incorrect predictions which may lead to devastating consequences. This problem is especially demanding in the context of dense prediction since input images may be only partially anomalous. Previous work has addressed dense out-of-distribution detection by discriminative training with respect to off-the-shelf negative datasets. However, real negative data are unlikely to cover all modes of the entire visual world. To this end, we extend this approach by generating synthetic negative patches along the border of the inlier manifold. We leverage a jointly trained normalizing flow due to coverage-oriented learning objective and the capability to generate samples at different resolutions. We detect anomalies according to a principled information-theoretic criterion which can be consistently applied through training and inference. The resulting models set the new state of the art on benchmarks for out-of-distribution detection in road-driving scenes and remote sensing imagery, in spite of minimal computational overhead.

연구 동기 및 목표

• 밀도 예측 작업에서 이상치 입력(OOD)에 직면했을 때 신뢰도가 높은 잘못된 예측이 발생하는 문제를 해결하기 위해.
• 특수 분야인 원격 감지나 의료 영상과 같은 분야에서는 실제 음성 데이터셋이 항상 모든 OOD 모드를 커버하지 못하므로, 이러한 실제 음성 데이터셋의 한계를 극복하기 위해.
• 베이지안 모델링, 이미지 재생산, 보조적인 실제 음성 데이터에 의존하지 않고도 강력하고 원칙적인 OOD 검출을 가능하게 하는 방법을 개발하기 위해.
• 진정한 분포 경계를 대표하는 합성 음성 샘플을 생성함으로써 OOD 검출의 일반화 능력과 커버리지 향상을 위해.
• 실시간 자율 시스템 구현을 위한 실현 가능성을 유지하면서도 계산 오버헤드를 최소화하기 위해.

제안 방법

• 내재 가능성 최대화와 동시에 생성된 샘플에 대해 균일한 예측을 유도하기 위해 훈련된 정규화 흐름에서 샘플링하여 합성 음성 패치를 생성한다.
• 정규화 흐름의 최대우도와 합성 이상치에 대한 최종 레이어 로짓의 균일성을 증진시키는 판별 손실을 조합한 공동 훈련 목표 함수를 사용한다.
• 훈련 및 추론 중에 JSD(제이슨-셜러 발산)를 강력한 점수 기준으로 사용하여 최면적 기반 지표인 max-softmax와 같은 지표를 대체한다.
• 과적합 방지를 위해 공동 훈련 이전에 판별 모델과 정규화 흐름을 각각 사전 훈련한다.
• 정규화 흐름을 통한 가변 해상도 생성을 지원함으로써 다양한 크기의 OOD 객체를 현실적으로 시뮬레이션할 수 있다.
• 소프트맥스 출력에 온도 스케일링을 적용하여 OOD 검출 성능을 향상시키며, 최적의 값은 경험적으로 도출되었다.

실험 결과

연구 질문

• RQ1 실제 음성 데이터가 희소한 상황에서 정규화 흐름을 통해 생성된 합성 음성 데이터가 밀도 높은 OOD 검출에서 실제 음성 데이터셋을 능가할 수 있는가?
• RQ2 훈련 및 추론 시점에서 제이슨-셜러 발산을 사용할 경우, 최면적 점수 함수보다 더 강력하고 일관성 있는 OOD 검출이 가능한가?
• RQ3 판별 모델과 생성 모델을 별도로 사전 훈련할 경우 일반화 능력 향상과 합성 이상치에 대한 과적합 감소에 기여하는가?
• RQ4 정규화 흐름을 통해 생성된 음성 샘플의 커버리지와 분포 품질이 GAN 기반 또는 GMM 기반의 합성 데이터와 비교해 어떻게 되는가?
• RQ5 특히 표준 음성 데이터셋이 부족한 원격 감지 분야에서 이 방법이 얼마나 다양한 도메인으로 일반화되는가?

주요 결과

• NFlowJS는 AnomalyTrack 및 ObstacleTrack 벤치마크에서 최신 기술 수준 성능을 달성하였으며, AnomalyTrack-val에서 AP 63.3 ± 0.6, FPR95 19.8 ± 0.8을 기록했고, ObstacleTrack-val에서는 95.8 ± 0.2 AP와 0.1 ± 0.0 FPR95를 기록하였다.
• GAN 기반 합성 데이터(AnomalyTrack-val에서 AP 56.1, FPR95 26.1)와 GMM 기반 특징(AnomalyTrack-val에서 AP 56.7, FPR95 28.0)을 크게 능가하여 정규화 흐름이 OOD 데이터 생성에 있어 우월함을 입증하였다.
• 판별 모델과 정규화 흐름을 모두 사전 훈련한 경우, 무작위 초기화에서 시작하는 것보다 AnomalyTrack-val에서 AP가 6.4%p 절대적으로 향상되었다.
• 온도 스케일링을 T=2로 적용하면 OOD 검출 성능이 향상되어 ObstacleTrack-val에서 FPR95가 0.1 ± 0.0으로 감소하였으며, 이는 점수 분포의 보다 우수한 校정(캘리브레이션)을 의미한다.
• 이 방법은 로짓 공간에서 알려진 클래스와 알려지지 않은 클래스 간의 분리가 증가함을 보여주어 개방 집합 일반화 능력 향상이 가능하다는 것을 시사한다.
• 원격 감지 분야에서는 도메인 특화 음성 데이터에 접근하지 못한 상태에서도 뛰어난 성능을 보였으며, 이는 자원이 제한된 OOD 검출 환경에서의 실용성을 입증한다.