[논문 리뷰] Ensembles for Uncertainty Estimation: Benefits of Prior Functions and Bootstrapping

Vikranth Dwaracherla, Wen Zheng외 4명|arXiv (Cornell University)|2022. 06. 08.

Explainable Artificial Intelligence (XAI)인용 수 6

한 줄 요약

이 논문은 의사결정을 위한 앙상블 기반 예측 불확실성 추정에서 사전 함수와 부트스트래핑의 역할을 조사한다. 사전 함수가 공동 예측 불확실성에 크게 기여함을 보여주며, 입력 간 신호 대 잡음비가 변할 경우 부트스트래핑이 추가로 성능 향상을 제공함을 이론적 분석과 회귀, 분류, 밴딧 문제에 대한 실험을 통해 검증한다.

ABSTRACT

In machine learning, an agent needs to estimate uncertainty to efficiently explore and adapt and to make effective decisions. A common approach to uncertainty estimation maintains an ensemble of models. In recent years, several approaches have been proposed for training ensembles, and conflicting views prevail with regards to the importance of various ingredients of these approaches. In this paper, we aim to address the benefits of two ingredients -- prior functions and bootstrapping -- which have come into question. We show that prior functions can significantly improve an ensemble agent's joint predictions across inputs and that bootstrapping affords additional benefits if the signal-to-noise ratio varies across inputs. Our claims are justified by both theoretical and experimental results.

연구 동기 및 목표

• 예측 불확실성 추정을 위한 앙상블 에이전트 학습에서 사전 함수와 부트스트래핑의 중요성에 대해 서로 모순되는 주장이 있는 문헌을 해결하기 위해.
• 효율적인 의사결정을 위해 공동 예측이 중요한 만큼, 마진 및 공동 예측 성능을 모두 평가하여 공동 예측에 중점을 두기 위해.
• 부트스트래핑이 사전 함수를 초월해 측정 가능한 이점을 제공하는 조건을 규명하기 위해.
• 예측 인식 에이전트를 위한 앙상블 학습 설계 선택에 대한 이론적 및 실증적 근거를 제공하기 위해.

제안 방법

• 손실 함수의 변형을 통해 앙상블 에이전트를 통합적 프레임워크로 제시하며, 사전 함수와 부트스트래핑을 별개의 학습 메커니즘으로 통합한다.
• 베이지안 선형 회귀 분석을 통해 사전 함수가 앙상블 모델의 공동 예측을 어떻게 향상시키고 불확실성을 줄이는지 이론적으로 입증한다.
• Neural Testbed와 CIFAR-10의 합성 데이터를 사용한 신경망을 통해 NLL, 브리어 점수, ECE와 같은 지표를 활용해 마진 및 공동 불확실성 캘리브레이션을 평가한다.
• 이종분산 선형 밴딧 환경에서 톰슨 샘플링을 적용하여 누적 누적 손실을 핵심 지표로 삼아 의사결정 성능을 평가한다.
• 에이전트의 하이퍼파라미터(예: 사전 분산, 부트스트래핑 샘플링)를 조정하여 손실 최소화와 불확실성 추정 최적화를 달성한다.
• 알고리즘적 및 분석적 도구를 사용하여 무한한 앙상블 설정에서의 사후 근사값을 유도함으로써, 다양한 앙상블 변종 간 이론적 비교를 가능하게 한다.

실험 결과

연구 질문

• RQ1 사전 함수는 앙상블 모델에서 공동 예측 분포의 품질에 어떻게 영향을 미치는가?
• RQ2 앙상블 학습에서 사전 함수를 초월해 부트스트래핑이 추가로 유의미한 이점을 제공하는 조건은 무엇인가?
• RQ3 입력 공간 전반에서 신호 대 잡음비(SNR)의 변동성이 앙상블 불확실성 추정에서 부트스트래핑의 효과성에 영향을 미치는가?
• RQ4 사전 함수와 부트스트래핑에 의해 이끌리는 공동 예측 품질은 순차적 작업에서 의사결정 성능 향상으로 이어지는가?
• RQ5 실제 및 합성 데이터셋에서 사전 함수 또는 부트스트래핑가 없는 앙상블 에이전트와 비교했을 때, 마진 및 공동 불확실성 캘리브레이션 측면에서의 성능 차이는 어떠한가?

주요 결과

• 사전 함수는 의사결정에서 효율적인 탐색과 적응을 위해 필수적인 공동 예측 불확실성 분포를 크게 향상시킨다.
• 입력 공간 전반에서 신호 대 잡음비(SNR)가 일정할 경우, 사전 함수가 적절히 조정되어 있으면 부트스트래핑은 추가 이점 없이도 성능 향상을 제공하지 않는다.
• SNR가 입력 간에 크게 변동할 경우, 사전 함수의 조정 여부에 관계없이 부트스트래핑이 측정 가능한 성능 향상을 제공한다.
• 이종분산 선형 밴딧 문제에서는 사전 함수와 부트스트래핑을 모두 갖춘 앙상블 에이전트(ensemble-BP)가 그렇지 않은 경우보다 상당히 낮은 누적 손실을 기록한다.
• 사전 함수가 없는 앙상블 에이전트(ensemble-N)는 ensemble-P와 ensemble-BP보다 상당히 열등한 성능를 보이며, 사전 함수의 필요성을 강조한다.
• CIFAR-10과 합성 데이터에 대한 실증 결과는 공동 불확실성 캘리브레이션은 마진 지표만으로는 예측할 수 없으며 의사결정 성능 향상에 더 예측력이 있음을 확인한다.