[논문 리뷰] Heteroscedastic Treed Bayesian Optimisation

John-Alexander M. Assael, Ziyu Wang외 2명|arXiv (Cornell University)|2014. 10. 27.

Machine Learning and Algorithms참고 문헌 38인용 수 25

한 줄 요약

이 논문은 비정상적이고 이방성 목적 함수를 모델링하기 위해 결정 트리와 가우시안 프로세스(GP) 잎을 조합한 새로운 방법인 이방성 나누어진 베이지안 최적화(HTBO)를 제안한다. 계층적 하이퍼파ram터 학습 체계와 가중치가 부여된 우도를 사용하여 희소한 잎 영역에서의 하이퍼파ram터 추정을 안정화함으로써, HTBO는 자동 기계 학습 및 광물 탐사와 같은 실제 문제를 포함한 다양한 합성 문제에서 표준 및 왜곡된 GP 기반 방법들을 능가하는 우수한 수렴성과 강건성을 확보한다.

ABSTRACT

Optimising black-box functions is important in many disciplines, such as tuning machine learning models, robotics, finance and mining exploration. Bayesian optimisation is a state-of-the-art technique for the global optimisation of black-box functions which are expensive to evaluate. At the core of this approach is a Gaussian process prior that captures our belief about the distribution over functions. However, in many cases a single Gaussian process is not flexible enough to capture non-stationarity in the objective function. Consequently, heteroscedasticity negatively affects performance of traditional Bayesian methods. In this paper, we propose a novel prior model with hierarchical parameter learning that tackles the problem of non-stationarity in Bayesian optimisation. Our results demonstrate substantial improvements in a wide range of applications, including automatic machine learning and mining exploration.

연구 동기 및 목표

• 비정상적이고 이방성 목적 함수를 다룰 때 표준 베이지안 최적화의 한계를 해결하기 위해.
• 입력 공간의 다양한 영역에서 복잡하고 변화하는 노이즈 구조를 포괄할 수 있는 유연하고 확장 가능한 모델을 개발하기 위해.
• 결정 트리의 잎에서 데이터가 적은 영역에서도 계층적이고 가중치가 부여된 우도 기반 접근법을 통해 하이퍼파ram터 학습을 안정화하기 위해.
• 합성 기준과 실제 응용 분야(예: 자동 기계 학습 및 광물 탐사)에서 강건하고 뛰어난 성능을 입증하기 위해.
• 나무 기반 분할 구조와 GP 잎이 이방성 환경에서 단일 GP 및 왜곡된 GP 모델보다 우수한 성능을 낼 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 입력 공간을 결정 트리로 영역으로 나누며, 각 영역는 별도의 가우시안 프로세스(GP) 잎으로 모델링된다.
• 각 GP 잎은 국소적 스무딩과 비정상성을 포착하기 위해 자동 관련성 결정 기능이 있는 Matérn(5/2) 커널을 갖춘다.
• 관측 수를 기반으로 유도된 가중치를 사용하여 각 잎에서 하이퍼파ram터를 학습하기 위해 가중치가 부여된 우도를 사용한다. 이는 희소 영역에서의 안정성을 향상시킨다.
• 분할점 근처에서 분산 폭발을 방지하기 위해 트리 구조가 영역 간의 부드러운 전이를 보장하도록 구성된다.
• 왜곡된 GP 변형(HTBO Warp)을 통해 입력 변환을 지원함으로써 비정규성 노이즈와 비대칭성을 더 잘 모델링할 수 있는 유연성을 높인다.
• 전체 트리 구조 GP 모델의 사후 분포에서 획득 함수를 유도하여 순차적 쿼리 선택을 안내한다.

실험 결과

연구 질문

• RQ1 지역 하이퍼파ram터 학습을 갖춘 나무 구조 GP 모델이 이방성 베이지안 최적화에서 표준 및 왜곡된 GP 모델보다 뛰어난 성능을 낼 수 있는가?
• RQ2 트리의 잎에서 데이터가 적은 영역에서 과적합 없이 하이퍼파ram터 추정을 어떻게 안정화할 수 있는가?
• RQ3 트리 노드 간의 계층적 학습이 비정상적이고 노이즈가 많은 목적 함수에서 강건성과 수렴성을 향상시키는가?
• RQ4 제안된 방법이 높은 이방성 특성을 보이는 실제 문제에서 더 빠른 수렴성과 더 나은 전역 최적화 성능을 달성할 수 있는가?
• RQ5 HTBO 및 HTBO Warp의 성능은 다양한 합성 및 실제 기준에서 기준 베이지안 최적화 및 베이지안 최적화 왜곡 모델과 비교해 어떻게 되는가?

주요 결과

• HTBO Warp는 RKHS 함수 및 Agromet 광물 탐사 데이터와 같이 가장 도전적인 이방성 문제를 포함한 6개 기준 중 5개에서 최고 성능을 기록했다.
• RKHS 함수에서 HTBO Warp는 약 40회의 평가 내에 전역 최적해에 수렴했으며, 표준 BO 및 BO Warp는 수렴에 실패했다.
• Agromet 광물 탐사 데이터셋에서는 HTBO 및 HTBO Warp가 BO 및 BO Warp를 크게 앞서며, 이방성의 더 나은 모델링 덕분에 더 빠른 수렴을 달성했다.
• 2D Exp. 함수에서는 HTBO 및 HTBO Warp가 BO 및 BO Warp보다 더 빠른 수렴을 보였으며, 이는 비정상 영역에서 나무 기반 분할의 이점을 입증했다.
• 구조적 서포트 벡터 머신과 같은 간단한 문제에서는 모든 방법이 결국 수렴했지만, HTBO 및 HTBO Warp는 동질성 노이즈 환경에서도 성능 저하 없이 경쟁력을 유지했다.
• 계층적이고 가중치가 부여된 우도 기반 접근법 덕분에, 각 잎당 관측 수가 적은 상황에서도 안정적인 하이퍼파라미터 학습이 가능했으며, 과적합과 분산 폭발을 방지했다.