[논문 리뷰] Bayesian Active Learning with Fully Bayesian Gaussian Processes

Christoffer Riis, Francisco Antunes외 3명|arXiv (Cornell University)|2022. 05. 20.

Machine Learning and Algorithms인용 수 10

한 줄 요약

이 논문은 완전 베이지안 가우시안 프로세스(FBGPs)를 위한 두 가지 새로운 베이지안 주도 학습 획득 함수—B-QBC 및 QB-MGP—을 제안한다. 이는 공동 초모수 추론을 통해 편향-분산 트레이드오프를 명시적으로 최적화하기 위해 고안되었다. 길이 척도 ℓ 및 노이즈 초모수 σ²의 전체 사후 분포를 활용함으로써, 기준선 대비 여섯 개의 시뮬레이터에서 평균적으로 음의 마진럴 로그우도를 41% 감소시키고, 루트 평균 제곱 오차를 12% 감소시켜 데이터 효율성을 향상시킨다.

ABSTRACT

The bias-variance trade-off is a well-known problem in machine learning that only gets more pronounced the less available data there is. In active learning, where labeled data is scarce or difficult to obtain, neglecting this trade-off can cause inefficient and non-optimal querying, leading to unnecessary data labeling. In this paper, we focus on active learning with Gaussian Processes (GPs). For the GP, the bias-variance trade-off is made by optimization of the two hyperparameters: the length scale and noise-term. Considering that the optimal mode of the joint posterior of the hyperparameters is equivalent to the optimal bias-variance trade-off, we approximate this joint posterior and utilize it to design two new acquisition functions. The first one is a Bayesian variant of Query-by-Committee (B-QBC), and the second is an extension that explicitly minimizes the predictive variance through a Query by Mixture of Gaussian Processes (QB-MGP) formulation. Across six simulators, we empirically show that B-QBC, on average, achieves the best marginal likelihood, whereas QB-MGP achieves the best predictive performance. We show that incorporating the bias-variance trade-off in the acquisition functions mitigates unnecessary and expensive data labeling.

연구 동기 및 목표

• 제한된 데이터에서 가우시안 프로세스(GPs)의 편향-분산 트레이드오프가 열악하여 데이터 레이블링이 비효율적인 문제를 해결하기 위해.
• GP 초모수의 불확실성을 명시적으로 고려하는 획득 함수를 개발하여 모델 선택 및 예측 정확도를 향상시키기 위해.
• 완전 베이지안 GP 추론이 표준 GP 기반 주도 학습보다 더 나은 획득 결정을 가능하게 함을 보여주기 위해.
• 다양한 복잡도와 노이즈 구조를 가진 다양한 시뮬레이터에서 제안된 방법을 평가하여, 이질적 노이즈 사례를 포함한 경우에도 성능을 점검하기 위해.
• 초모수의 공동 사후 분포를 통합함으로써 더 강건하고 효율적인 주도 학습을 가능하게 하는가를 입증하기 위해.

제안 방법

• 이 방법은 MCMC 샘플링을 통해 초모수(길이 척도 ℓ 및 노이즈 분산 σ²)에 대한 주변화를 수행하는 완전 베이지안 GP(FBGP)를 사용하여, 모델 가설에 대한 불확실성을 포착한다.
• B-QBC 획득 함수는 FBGP 사후에서 샘플된 다양한 GP 모델 간의 이견을 기반으로 데이터 포인트를 선택하여, 불확실한 영역의 탐색을 촉진한다.
• QB-MGP 획득 함수는 예측 분산 최소화와 GP 모델의 혼합을 통한 다양성 확보를 조합하여, 입력 공간 전반의 불확실성을 명시적으로 감소시킨다.
• 저데이터 환경에서 편향-분산 트레이드오프가 모호한 경우 특히 다모달 분포를 반영하기 위해 초모수의 공동 사후 분포를 MCMC를 사용해 근사한다.
• 획득 함수는 반복적으로 평가된다: 각 단계에서 모델은 평균과 분산을 예측하고, 제안된 기준에 따라 다음 쿼리 포인트가 선택된다.
• 이 접근법은 초모수의 점 추정에 의존하지 않고, 전체 사후 추론을 사용하여 데이터 선택을 이끌어내어, 초기 반복 단계에서의 나쁜 모델 가이던스 문제를 완화한다.

실험 결과

연구 질문

• RQ1 저데이터 환경에서 편향-분산 트레이드오프를 더 잘 포착함으로써 완전 베이지안 GP 추론이 주도 학습 성능을 향상시킬 수 있는가?
• RQ2 GP 초모수의 불확실성을 모델링하면 주도 학습에서 데이터 획득의 효율성과 정확도에 어떤 영향을 미치는가?
• RQ3 초모수의 공동 사후 분포가 다수의 타당한 편향-분산 트레이드오프를 드러내며, 이를 획득 함수 향상에 활용할 수 있는가?
• RQ4 B-QBC와 QB-MGP는 다양한 시뮬레이터에서 표준 획득 함수와 비교해 음의 마진럴 우도 및 예측 오차 측면에서 어떻게 성능을 내는가?
• RQ5 제안된 방법은 동질적 노이즈 GP로 모델링된 이질적 노이즈 시뮬레이터를 다룰 수 있는가?

주요 결과

• B-QBC는 여섯 개의 시뮬레이터에서 평균적으로 기준선 대비 음의 마진럴 로그우도를 41% 감소시켜 가장 뛰어난 평균 마진럴 우도 향상을 달성했다.
• QB-MGP는 기준선 대비 루트 평균 제곱 오차를 12% 감소시켜 가장 뛰어난 예측 성능을 달성했다.
• 저데이터 환경에서 길이 척도 및 노이즈 초모수의 다모달 사후 분포가 관찰되어 다수의 타당한 편향-분산 트레이드오프가 존재함을 시사했다.
• 이질적 노이즈를 가진 모터사이클 시뮬레이터에서 B-QBC는 노이즈 구조에 혼란을 겪어 중앙부에서 이견에 과도하게 적응하여 과적합되었지만, QB-MGP는 분산 최소화 덕분에 강건한 성능을 유지했다.
• QB-MGP의 B-ALM 구성요소는 전체 예측 불확실성을 감소시켜 탐색을 장려하는 다양성 측도로 기능했다.
• 제안된 방법은 기저 시뮬레이터의 기능적 복잡성이나 노이즈 구조에 대한 사전 지식 없이도 다양한 시뮬레이터에서 강건하게 작동했다.