[논문 리뷰] Transfer Learning with Gaussian Processes for Bayesian Optimization

Petru Tighineanu, Kathrin Skubch외 4명|arXiv (Cornell University)|2021. 11. 22.

Gaussian Processes and Bayesian Inference참고 문헌 14인용 수 5

한 줄 요약

이 논문은 베이지안 최적화에서 가우시안 프로세스를 통한 전이 학습을 위한 통합 프레임워크를 제안하며, 계산 효율성과 불확실성 전파 사이의 균형을 맞추는 새로운 폐쇄형 보팅된 GP 모델(SHGP)을 도입한다. 소스 작업의 불확실성 모델링이 성능을 햖을 뿐만 아니라, 고노이즈 또는 제한된 데이터 조건에서 기존의 전체 공동 모델과 비베이지안 앙상블보다 뛰어난 성능을 보임을 입증한다. 특히 낮은 데이터 환경에서 뛰어난 성능을 발휘한다.

ABSTRACT

Bayesian optimization is a powerful paradigm to optimize black-box functions based on scarce and noisy data. Its data efficiency can be further improved by transfer learning from related tasks. While recent transfer models meta-learn a prior based on large amount of data, in the low-data regime methods that exploit the closed-form posterior of Gaussian processes (GPs) have an advantage. In this setting, several analytically tractable transfer-model posteriors have been proposed, but the relative advantages of these methods are not well understood. In this paper, we provide a unified view on hierarchical GP models for transfer learning, which allows us to analyze the relationship between methods. As part of the analysis, we develop a novel closed-form boosted GP transfer model that fits between existing approaches in terms of complexity. We evaluate the performance of the different approaches in large-scale experiments and highlight strengths and weaknesses of the different transfer-learning methods.

연구 동기 및 목표

• 베이지안 최적화를 위한 기존 GP 기반 전이 학습 방법에 대한 이해 부족과 통합 부족을 해결하기 위해.
• 전체 공동 모델과 비베이지안 앙상블 사이의 격차를 메우는 계산 효율성은 유지하면서도 불확실성 인식이 가능한 전이 모델을 개발하기 위해.
• 소스 데이터 양, 관측 노이즈, 불확실성 전파가 최적화 성능에 미치는 영향을 평가하기 위해.
• 다양한 낮은 데이터 및 노이즈 조건에서 계층적 GP 모델 간의 체계적인 비교를 제공하기 위해.

제안 방법

• 공유 커널과 작업별 평균 함수를 사용하여 작업별 및 공통 성분을 모델링하는 통합 계층적 GP 프레임워크를 제안한다.
• 소스 및 타겟 작업 데이터를 통합하면서도 분석적 취급 가능성을 유지하는 새로운 폐쇄형 보팅된 GP 전이 모델(SHGP)을 도입한다.
• 소스 작업의 불확실성에 대해 적분하여 폐쇄형 사후 분포를 유도함으로써 몬테카를로 샘플링 없이도 효율적인 추론이 가능하도록 한다.
• 타겟 GP의 평균이 소스 데이터로 훈련된 GP 사전분포에서 추출되도록 계층적 사전분포 구조를 활용하여 지식 전이를 가능하게 한다.
• 소스 및 타겟 작업 양쪽의 불확실성에 대해 전체 베이지안 처리가 가능한 공동 가능도 설정을 사용한다.
• 소스 데이터를 관련 함수의 노이즈 있는 관측값으로 간주하고, 모델 전반에 걸쳐 불확실성 전파를 수행하는 다중 정밀도 유사 구조를 활용한다.

실험 결과

연구 질문

• RQ1 낮은 데이터 및 고노이즈 조건에서 다양한 GP 기반 전이 학습 방법이 성능, 계산 비용, 불확실성 전파 측면에서 어떻게 비교되는가?
• RQ2 소스 데이터의 양과 관측 노이즈가 베이지안 및 비베이지안 전이 모델의 상대적 성능에 미치는 영향은 무엇인가?
• RQ3 전체 공동 모델과 비베이지안 앙상블 사이의 중간 복잡도를 가지면서도 불확실성 정량화를 유지할 수 있는 모델을 설계할 수 있는가?
• RQ4 소스 데이터가 제한되거나 노이즈가 많을 경우, 불확실성 전파가 최적화 성능에 어떻게 영향을 미치는가?

주요 결과

• SHGP는 중간 규모의 경우(예: 60~250개의 소스 점) 전체 계층적 GP(HGP)와 유사한 성능을 보이며, 계산 효율성이 뛰어나다.
• 관측 노이즈가 높은 경우(σ = 0.1), SHGP와 BHGP가 MHGP와 RGPE와 같은 비베이지안 방법보다 불확실성 전파를 적절히 처리함으로써 뛰어난 성능을 발휘한다.
• 소스 데이터가 부족한 경우(예: 30점), HGP와 WSGP와 같은 공동 모델이 SHGP를 능가하며, 낮은 데이터 환경에서 전체 불확실성 모델링의 필요성을 확인한다.
• 소스 데이터가 증가함에 따라(예: 500점), 모든 방법이 유사한 성능로 수렴함을 확인하여 추가적인 불확실성 모델링의 수익성이 감소함을 시사한다.
• 관측 노이즈가 증가할수록 베이지안과 비베이지안 방법 간의 성능 격차가 커지며, 이는 불확실성 전파의 중요성을 입증한다.
• 제안된 SHGP 모델은 계산 효율성과 불확실성 정확성 사이의 균형을 효과적으로 달성하여, 제한된 데이터로 고비용이거나 파괴적인 실험에 적합하다.