[논문 리뷰] Bayesian Optimization With Censored Response Data

Matricon, Théo, Holger H. Hoos외 3명|arXiv (Cornell University)|2013. 10. 07.

Machine Learning and Algorithms참고 문헌 20인용 수 22

한 줄 요약

이 논문은 우측으로 캐논된 반응 데이터—함수 값의 하한선만 관측 가능한 경우—를 처리하는 베이지안 최적화 프레임워크를 제안한다. 이는 랜덤 포레스트에 새로운 유형의 EM 알고리즘을 통합하여 캐논된 값을 보간함으로써 이루어지며, 알고리즘 설정에서 적응형 캐논을 가능하게 하여, 비용이 많이 드는 평가를 줄이고 SMAC의 성능을 크게 향상시킨다. 실제 솔버 설정에서 중앙값 테스트 런타임이 최대 126배 빨라졌다.

ABSTRACT

Bayesian optimization (BO) aims to minimize a given blackbox function using a model that is updated whenever new evidence about the function becomes available. Here, we address the problem of BO under partially right-censored response data, where in some evaluations we only obtain a lower bound on the function value. The ability to handle such response data allows us to adaptively censor costly function evaluations in minimization problems where the cost of a function evaluation corresponds to the function value. One important application giving rise to such censored data is the runtime-minimizing variant of the algorithm configuration problem: finding settings of a given parametric algorithm that minimize the runtime required for solving problem instances from a given distribution. We demonstrate that terminating slow algorithm runs prematurely and handling the resulting right-censored observations can substantially improve the state of the art in model-based algorithm configuration.

연구 동기 및 목표

• 함수 평가 비용이 함수 값과 동일한 비용-변동 최적화 문제를 해결함으로써 자원 인식 최소화를 가능하게 하기 위해.
• 함수 값의 하한선만 관측 가능한 오른쪽 캐논된 데이터를 베이지안 최적화에서 처리하기 위해.
• 조기 종료로 인해 발생하는 캐논된 관측치를 통합하여 모델 기반 알고리즘 설정(AC)의 성능을 향상시키기 위해.
• 알고리즘 설정에서 흔히 발생하는 고차원 이산 입력을 다룰 수 있는 실용적이고 확장 가능한 방법을 개발하기 위해.
• 적응형 캐논이 실제 설정 시나리오에서 상당한 성능 향상을 이끌 수 있는지 입증하기 위해.

제안 방법

• 비용 단조성 최적화 프레임워크를 제안하며, 이는 비용 c(θ) = f(θ)로 설정되어 자원 절약을 위한 조기 종료를 가능하게 한다.
• 반복적으로 잘린 정규분포에서 샘플링하여 캐논된 값을 보간하는 새로운 EM 유형의 알고리즘을 도입한다.
• 각 캐논된 데이터 포인트에 대해 다수의 보간치를 생성하기 위해 분류 샘플링을 사용하여 모델 예측의 불확실성을 유지한다.
• 비캐논된 데이터에 대해 트리를 피팅하고, 보간된 캐논된 값을 반복적으로 재학습함으로써 랜덤 포레스트가 캐논된 데이터를 처리하도록 적응시킨다.
• 보간을 위해 부트스트랩 기반의 재표본 전략을 사용하여 트리 간 데이터 포인트 빈도를 유지하며, 재표본 횟수를 추적한다.
• 상태기반 알고리즘 설정 도구인 SMAC에 캐논된 모델을 통합하며, 슬랙 요소를 통해 적응형 캐논 임계값을 설정한다.

실험 결과

연구 질문

• RQ1 오직 함수 값의 하한선만 관측 가능한 오른쪽 캐논된 데이터를 효과적으로 처리할 수 있는가?
• RQ2 불확실성을 유지하면서 최적화에서 능동 학습을 지원할 수 있는 방식으로 캐논된 데이터를 어떻게 모델링할 수 있는가?
• RQ3 느린 실행을 조기에 종료하고 하한선을 사용하는 적응형 캐논이 모델 기반 알고리즘 설정의 효율성을 향상시킬 수 있는가?
• RQ4 제안된 보간 방법이 알고리즘 설정에서 흔히 발생하는 고차원 이산 입력 공간에서 기존 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ5 실제로 최적의 슬랙 요소는 무엇이며, 이는 모델 성능과 런타임 효율성에 어떤 영향을 미치는가?

주요 결과

• 모든 7개의 실제 설정 시나리오에서 캐논된 버전의 수정된 SMAC가 원래 버전보다 유의미하게 뛰어난 성능을 보였으며, 통계적으로 유의미한 결과는 4개였다.
• 캐논된 경우에서 가장 우수한 설정은 SPEAR-SWV 문제에서 비캐논 기반 대비 중앙값 테스트 런타임을 최대 126배 빨라졌다.
• 슬랙 요소 1.3을 사용한 캐논이 모든 시나리오에서 최고의 전체 성능을 보였으며, 모델 적합도와 데이터 확보 비용 간 균형을 잘 맞췄다.
• SPEAR-IBM 벤치마크에서 캐논을 포함한 모든 설정이 동일한 중앙값 성능(1.36×10⁴초)을 기록하여 고분산에 대한 강건성을 입증했다.
• 완전한 평가 횟수를 크게 줄였으며, 특히 CPLEX12-CORLAT 및 SPEAR-SWV와 같은 고런타임 설정에서 가장 큰 성과를 보였다.