[논문 리뷰] Distribution Calibration for Out-of-Domain Detection with Bayesian Approximation

Yanan Wu, Zhiyuan Zeng외 4명|arXiv (Cornell University)|2022. 09. 14.

Software Engineering Research인용 수 9

한 줄 요약

이 논문은 소프트맥스 기반 모델의 분포 불확실성을 校정하기 위해 몬테카를로 드롭아웃을 사용하는 베이지안 OOD 검출 프레임워크를 제안한다. 이는 도메인 외 샘플에 대한 과신뢰를 크게 감소시킨다. 드롭아웃을 사용한 다중 전방 전파 평균화를 통해 MSP 대비 0.41% 증가한 추론 시간으로 OOD F1을 33.33% 향상시켰으며, 도메인 외 입력에 대해 예측을 균일성 쪽으로 이동시킨다.

ABSTRACT

Out-of-Domain (OOD) detection is a key component in a task-oriented dialog system, which aims to identify whether a query falls outside the predefined supported intent set. Previous softmax-based detection algorithms are proved to be overconfident for OOD samples. In this paper, we analyze overconfident OOD comes from distribution uncertainty due to the mismatch between the training and test distributions, which makes the model can't confidently make predictions thus probably causing abnormal softmax scores. We propose a Bayesian OOD detection framework to calibrate distribution uncertainty using Monte-Carlo Dropout. Our method is flexible and easily pluggable into existing softmax-based baselines and gains 33.33\% OOD F1 improvements with increasing only 0.41\% inference time compared to MSP. Further analyses show the effectiveness of Bayesian learning for OOD detection.

연구 동기 및 목표

• 소프트맥스 기반 OOD 검출에서 도메인 외 샘플에 대해 과신뢰가 발생하는 문제를 해결하기 위해, 기존 지식이 없음에도 불구하고 높은 신뢰도를 부여하는 현상에 대응한다.
• 과신뢰의 근본 원인이 학습-테스트 분포 불일치로 인한 분포 불확실성에서 비롯됨을 분석한다.
• 추가 파rameter나 재학습 없이도 유연하고 플러그인 방식의 베이지안 프레임워크를 개발한다.
• 몬테카를로 드롭아웃이 OOD 검출 성능 향상에 효과적으로 작용하고, 추론 오버헤드를 유지하면서 불확실성 보정을 수행함을 실증적으로 검증한다.
• 다중 스토케스틱 전방 전파를 통한 예측 평균화가 도메인 외 입력에 대해 더 균일하고 신뢰할 수 있는 예측을 이끌어내는지 확인한다.

제안 방법

• 드롭아웃를 사용한 표준 학습으로, 레이블이 부여된 IND 데이터에서 도메인 내 의도 분류기를 학습한다.
• 추론 단계에서 고정된 드롭아웃 비율(예: 0.7)을 사용해 다수의 스토케스틱 전방 전파(몬테카를로 드롭아웃)를 수행하여 다양한 모델 출력을 샘플링한다.
• 다중 전방 전파에서 얻은 정규화된 로짓을 평균화하여 校정된 예측 분포를 확보한다.
• 평균화된 출력 분포를 최종 예측으로 사용하며, 이는 불확실성 보정으로 인해 도메인 외 입력에 대해 균일성 쪽으로 수렴한다.
• 기존의 소프트맥스 기반 OOD 검출기(MSP 또는 엔트로피 등)에 아키텍처 변경 없이 베이지안 근사법을 통합한다.
• 예측 분포와 균일 분포 사이의 KL 발산을 사용해 보정 품질을 정량적으로 평가한다.

실험 결과

연구 질문

• RQ1 왜 소프트맥스 기반 OOD 검출 방법은 도메인 외 샘플에 대해 과신뢰 예측을 생성하는가?
• RQ2 모델가 다양한 랜덤 시드에서 변동성을 보일 때 발생하는 분포 불확실성은 OOD 검출에서 과신뢰에 얼마나 기여하는가?
• RQ3 몬테카를로 드롭아웃을 사용해 분포 불확실성을 효과적으로 보정하고 OOD 검출 성능을 향상시킬 수 있는가?
• RQ4 몬테카를로 샘플 수와 드롭아웃 비율은 보정 정확도와 추론 비용 간의 트레이드오���에 어떤 영향을 미치는가?
• RQ5 이 베이지안 근사 방법은 LOF 및 GDA와 같은 최신 거리 기반 OOD 검출 방법보다 성능이 뛰어나거나 유사한가?

주요 결과

• 10개의 몬테카를로 샘플을 사용할 경우, MSP 대비 추론 시간이 0.41% 증가했음에도 불구하고 OOD F1이 33.33% 향상되었다.
• 샘플링 수가 증가함에 따라 도메인 외 샘플의 예측 분포와 균일 분포 사이의 KL 발산이 크게 감소(평균 3.63에서 2.59로 감소)하여 효과적인 보정이 이루어졌음을 확인했다.
• 드롭아웃 비율 0.7이 낮은 비율보다 더 우수한 OOD 성능을 보였으며, 더 큰 특징 노이즈로 인해 도메인 외 예측의 균일성이 향상되었다.
• 100회의 샘플링이 성능과 효율성의 좋은 균형을 이룬다. 1000회 이상부터는 수익 감소 현상이 나타난다.
• IND와 OOD의 신뢰도 점수 분포 간 겹침이 크게 감소하였으며, 특히 엔트로피 기반 메트릭에서 분리 성능이 향상되었다.
• 도메인 외 입력에 대한 평균 출력 분포가 균일성 쪽으로 수렴하는 반면, IND 예측은 일관되고 확신 있는 상태를 유지하여, 방법의 보정 목표가 성공적으로 검증되었다.