[논문 리뷰] Uncertainty quantification using martingales for misspecified Gaussian processes

Willie Neiswanger, Aaditya Ramdas|arXiv (Cornell University)|2020. 06. 12.

Gaussian Processes and Bayesian Inference참고 문헌 37인용 수 5

한 줄 요약

이 논문은 사전 분포가 잘못 지정된 경우에도 통계적으로 타당한 신뢰 구간을 유지하는 가우시안 프로세스(GP)에 대한 빈도주의 신뢰 수열을 제안한다. 마르팅게일 기법을 사용하여 일관된 유효한 불확실성 구간을 구성한다. 표준 GP 사후 분포의 신뢰 구간과는 달리, 사전 분포가 잘못되었을 경우 잘못된 해석을 유도할 수 있지만, 제안된 방법은 사전 분포의 정확성과 관계없이 커버리지 확률 보장을 보장한다. 이는 사전 분포가 올바를 경우 더 넓은 간격을 초래하는 비용을 수반하지만, 실질적으로 강건성을 입증한다. 특히 베이지안 최적화 환경에서 두드러진다.

ABSTRACT

We address uncertainty quantification for Gaussian processes (GPs) under misspecified priors, with an eye towards Bayesian Optimization (BO). GPs are widely used in BO because they easily enable exploration based on posterior uncertainty bands. However, this convenience comes at the cost of robustness: a typical function encountered in practice is unlikely to have been drawn from the data scientist's prior, in which case uncertainty estimates can be misleading, and the resulting exploration can be suboptimal. We present a frequentist approach to GP/BO uncertainty quantification. We utilize the GP framework as a working model, but do not assume correctness of the prior. We instead construct a confidence sequence (CS) for the unknown function using martingale techniques. There is a necessary cost to achieving robustness: if the prior was correct, posterior GP bands are narrower than our CS. Nevertheless, when the prior is wrong, our CS is statistically valid and empirically outperforms standard GP methods, in terms of both coverage and utility for BO. Additionally, we demonstrate that powered likelihoods provide robustness against model misspecification.

연구 동기 및 목표

• 베이지안 최적화에서 흔히 발생하는 사전 분포가 잘못 지정되었을 경우의 신뢰도 낮은 불확실성 추정 문제를 해결하기 위해.
• 사전 분포의 정확성과 관계없이 진정한 함수에 대해 일관된 유효한 신뢰 수열을 제공하는 빈도주의 접근을 개발하기 위해.
• 베르슈타인-폰 뉴만 정리가 실패하는 고차원 또는 무한차원 함수 공간에서도 통계적 타당성을 유지하기 위해.
• 사전 분포가 정확하지 않을 경우의 불확실성 정량화에서 강건성과 정밀도의 상호 교환 관계를 평가하기 위해.
• 신뢰 수열 프레임워크 내에서 하이퍼파ram터 튜닝과 적응형 신뢰도 파라미터를 실용적으로 통합할 수 있는지 탐색하기 위해.

제안 방법

• 마르팅게일 이론을 사용하여 시간에 따라 일관된 확률로 진짜 함수가 포함되는 신뢰 수열(CS)을 구성함으로써, 진짜 함수가 시간에 따라 일관되게 포함될 확률을 보장한다.
• 함수 클래스 $\mathcal{F}$와 믿음 파라미터 $\gamma$를 사용하여, 관측 데이터와 사전 분포 기반 예측 간의 차이를 추적하는 확률 과정을 정의한다.
• 순차적 확률 비율 검정과 마르팅게일 부등식을 적용하여 데이터에 의존하는 신뢰 구간을 유도하며, 증거에 따라 적응적으로 넓어지거나 좁아지도록 한다.
• 모델 오분포에 대한 강건성을 향상시키기 위해 힘을 줘서 likelihood를 통합하며, 특히 하이퍼파ram터가 데이터로부터 추정될 경우에 유용하다.
• 커널 기반 함수 클래스를 사용하여 구현하고, 각 시간 단계 $t$에서 커널 기반 투영의 볼록 조합을 통해 신뢰 집합 $C_t$를 계산한다.
• 신뢰 집합이 여전히 취급 가능하도록 $\mathcal{F}$를 선택함으로써 계산의 실현 가능성을 확보한다. 이는 오분포 상황에서도 유효하다.

실험 결과

연구 질문

• RQ1 임의의 사전 오분포 상황에서도 유효한 커버리지 보장을 유지하는 가우시안 프로세스에 대한 신뢰 수열을 구성할 수 있는가?
• RQ2 제안된 신뢰 수열이 표준 GP 사후 분포의 구간과 비교할 때 커버리지와 베이지안 최적화에서의 유용성 측면에서 어떻게 성능을 내는가?
• RQ3 신뢰 수열을 사용할 경우와 사후 신뢰 구간을 사용할 경우의 강건성과 정밀도 사이의 상호 교환 관계는 어떠한가?
• RQ4 최대우도나 교차검증과 같은 하이퍼파ram터 추정 방법을 신뢰 수열 프레임워크에 의미 있게 통합할 수 있는가?
• RQ5 믿음 파라미터 $\gamma$를 어떻게 동적으로 조정하여 사전 분포에 대한 신뢰도와 오분포에 대한 강건성 사이의 균형을 맞출 수 있는가?

주요 결과

• 제안된 신뢰 수열은 사전 분포가 잘못되었을 경우에도 시간에 따라 일관된 커버리지 확률 $\leq \alpha$를 유지하며, 통계적 타당성을 보장한다.
• 사전 분포가 올바를 경우, 신뢰 수열은 표준 GP 사후 분포의 구간보다 더 넓어지며, 이는 강건성의 비용을 반영한다.
• 사전 분포가 잘못되었을 경우, 더 많은 데이터가 수집될수록 신뢰 수열은 진짜 함수를 회복하고 포함하게 되며, 반면 표준 GP 구간은 진리에 수렴하지 못한다.
• 베이지안 최적화 시뮬레이션에서, 제안된 방법은 커버리지와 실용성 측면에서 표준 GP 불확실성 정량화 방법을 능가한다.
• 힘을 줘서 likelihood가 모델 오분포에 대한 강건성을 향상시키며, 특히 하이퍼파ram터가 데이터로부터 추정될 경우에 특히 효과적이다.
• 결과는 무한차원 함수 공간에서는 베르슈타인-폰 뉴만 정리가 성립하지 않음을 확인하며, 이러한 환경에서 빈도주의 신뢰 수열의 필요성을 정당화한다.