[논문 리뷰] From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence

Tianyang Wang, Yunze Wang외 17명|arXiv (Cornell University)|2025. 01. 05.

Explainable Artificial Intelligence (XAI)인용 수 6

한 줄 요약

이 논문은 AI에서의 불확실성 정량화(UQ)를 고찰하고, 알레이터릭 불확실성과 에피스테믹 불확실성을 구분하며, 방법, 지표, 응용을 검토하고 도전 과제와 향후 방향에 대해 논의한다.

ABSTRACT

Uncertainty quantification (UQ) is a critical aspect of artificial intelligence (AI) systems, particularly in high-risk domains such as healthcare, autonomous systems, and financial technology, where decision-making processes must account for uncertainty. This review explores the evolution of uncertainty quantification techniques in AI, distinguishing between aleatoric and epistemic uncertainties, and discusses the mathematical foundations and methods used to quantify these uncertainties. We provide an overview of advanced techniques, including probabilistic methods, ensemble learning, sampling-based approaches, and generative models, while also highlighting hybrid approaches that integrate domain-specific knowledge. Furthermore, we examine the diverse applications of UQ across various fields, emphasizing its impact on decision-making, predictive accuracy, and system robustness. The review also addresses key challenges such as scalability, efficiency, and integration with explainable AI, and outlines future directions for research in this rapidly developing area. Through this comprehensive survey, we aim to provide a deeper understanding of UQ's role in enhancing the reliability, safety, and trustworthiness of AI systems.

연구 동기 및 목표

• 기본 UQ 방법을 포함한 베이지안 추론, 심층 학습, 앙상블, 생성 모델 및 이들의 사용 사례를 분석한다.
• 의료, 자율 시스템, 금융 등 고위험 분야에서의 UQ 응용을 논의한다.
• 계산 복잡도 및 도메인 간 적용성 등의 한계를 검토하고 향후 연구의 병목 현상을 식별한다.
• AI 안전 및 윤리와 통합된 확장 가능하고 동적인 설명 가능한 UQ의 미래 방향을 탐구한다.
• UQ가 AI 시스템의 안전성, 투명성, 공공 신뢰에 기여하는 역할을 강조한다.

제안 방법

• 확률적 방법, 앙상블 학습, 샘플링 기반 접근, 생성 모델, 결정론적 방법, 하이브리드로 UQ 기법을 분류한다.
• 예측 분포 p(y|x, D) 및 베이지안/후방 개념 p(θ|D)와 같은 기초 방정식을 제시한다.
• VI(Variational Inference), 몬테 카를로(Monte Carlo, MC) 드롭아웃, 심층 앙상블을 실용적 근사로 설명한다.
• 데이터 불확실성과 잠재 공간을 모델링하기 위한 생성 모형(VAEs, GANs, normalizing flows)을 다룬다.
• 효율성을 위한 결정론적 접근 방식인 Evidential Deep Learning 및 구간 기반 방법을 설명한다.
• 지식과 물리를 통합하기 위한 하이브리드 접근 및 도메인 특정 제약(PINNs)을 강조한다.

실험 결과

연구 질문

• RQ1 다양한 작업에서 AI 시스템이 알레이터릭 불확실성과 에피스테믹 불확실성을 구분하고 정량화할 수 있는가?
• RQ2 의료 및 자율 시스템과 같은 고위험 도메인에서 의사 결정 신뢰성을 향상시키는 데 가장 효과적인 UQ 방법은 무엇인가?
• RQ3 보정, 선명도(sharpness), 평가 지표가 작업 및 모달리티 전반에서 UQ 품질을 가장 잘 반영하는가?
• RQ4 확장성, 실시간 성능, 도메인 간 적용성을 저해하는 주요 도전 과제는 무엇인가?
• RQ5 설명 가능한 AI 및 도메인 제약과의 통합을 통해 불확실성 정량화를 신뢰와 안전성 강화에 어떻게 기여시킬 수 있는가?

주요 결과

• UQ 기법은 확률적 방법, 앙상블, 샘플링, 생성 모델, 결정론적 접근 방식으로 구분되며 각각 강점과 트레이드오프가 있다.
• 베이지안 추론은 예측 분포를 통해 에피스테믹 및 알레이터릭 불확실성을 모두 포착하는 원칙적 프레임워크를 제공한다.
• 심층 앙상블과 샘플링 기반 방법은 강인성을 향상시키지만 계산 비용이 더 많이 든다.
• 생성 모델과 하이브리드 접근은 복잡하고 다모달한 데이터에서 더 풍부한 불확실성 모델링을 가능하게 한다.
• 평가 지표에는 보정 측정(ECE, MCE), 선명도, 로그 점수(Log Score), CRPS와 같은 스코어링 규칙이 포함되며 불확실성 품질을 평가한다.
• 의료, 자율성, 금융, 기후 과학, 에너지 등 다양한 응용 분야에서 UQ의 안전성, 신뢰성 및 신뢰 구축에 기여하는 사례를 보여준다.