[논문 리뷰] On a New Improvement-Based Acquisition Function for Bayesian Optimization

Umberto Noè, Dirk Husmeier|arXiv (Cornell University)|2018. 08. 21.

Mathematical Approximation and Integration참고 문헌 2인용 수 15

한 줄 요약

이 논문은 베이지안 최적화를 위한 새로운 개선 기반의 획득 함수인 ScaledEI를 제안한다. 이는 개선 추정치의 불확실성을 고려함으로써 쿼리 선택의 신뢰도를 향상시킨다. 기준 함수와 폐 순환을 모델링하는 PDE 모델에서 평가한 결과, 기존의 최첨단 방법들과 비교해 더 적은 함수 평가 수로도 뛰어난 성능과 강건성을 보였다. 다양한 커널과 문제 유형에서 뛰어난 성능을 발휘하였다.

ABSTRACT

Bayesian optimization (BO) is a popular algorithm for solving challenging optimization tasks. It is designed for problems where the objective function is expensive to evaluate, perhaps not available in exact form, without gradient information and possibly returning noisy values. Different versions of the algorithm vary in the choice of the acquisition function, which recommends the point to query the objective at next. Initially, researchers focused on improvement-based acquisitions, while recently the attention has shifted to more computationally expensive information-theoretical measures. In this paper we present two major contributions to the literature. First, we propose a new improvement-based acquisition function that recommends query points where the improvement is expected to be high with high confidence. The proposed algorithm is evaluated on a large set of benchmark functions from the global optimization literature, where it turns out to perform at least as well as current state-of-the-art acquisition functions, and often better. This suggests that it is a powerful default choice for BO. The novel policy is then compared to widely used global optimization solvers in order to confirm that BO methods reduce the computational costs of the optimization by keeping the number of function evaluations small. The second main contribution represents an application to precision medicine, where the interest lies in the estimation of parameters of a partial differential equations model of the human pulmonary blood circulation system. Once inferred, these parameters can help clinicians in diagnosing a patient with pulmonary hypertension without going through the standard invasive procedure of right heart catheterization, which can lead to side effects and complications (e.g. severe pain, internal bleeding, thrombosis).

연구 동기 및 목표

• 기존의 개선 기반 획득 함수가 개선 추정의 불확실성을 고려하지 못하는 한계를 해결한다.
• 높은 기대 개선도와 이 개선도에 대한 높은 신뢰도를 갖는 쿼리 포인트를 선택할 수 있는 더 강건한 획득 함수를 개발한다.
• 다양한 글로벌 최적화 기준 함수 세트에서 성능을 평가하여 제안된 방법의 성능을 최첨단 획득 함수들과 비교한다.
• 기존의 글로벌 최적화 솔버들과의 함수 평가 수를 비교하여, ScaledEI를 사용한 베이지안 최적화의 계산 효율성을 입증한다.
• 실제 정밀의료 문제에 적용: 인간 폐 순환 혈관을 모델링하는 PDE 모델에서의 매개변수 추론을 통해 비침습적 폐 고혈압 진단을 가능하게 한다.

제안 방법

• 기대 개선도를 개선도 랜덤 변수의 표준편차의 역수로 스케일링하여 불확실성에 대한 고려를 반영한 새로운 획득 함수인 ScaledEI를 제안한다.
• 가우시안 프로세스 대체 모델 하에서 개선도 측정치의 분산을 유도하여, 개선 추정의 불확실성을 정량화한다.
• 개선도의 분산에 대한 분석적 표현을 사용하여, 높은 불확실성에 대해 페널티를 주는 신뢰도 인식 획득 함수를 정의한다.
• 입력 차원 감도의 다양성을 반영하기 위해 자동 관련성 결정(ARD) 커널, 특히 Matérn 5/2 및 제곱 지수 커널을 사용하여 ScaledEI를 구현한다.
• 베이지안 최적화 루프 내에서 ScaledEI를 적용: 관측된 함수 평가를 반복적으로 업데이트하고, ScaledEI 기준에 따라 다음 포인트를 선택한다.
• 12개의 기준 함수에서 n=200, 600, 1000의 다양한 평가 예산에서 쌍체 t-검정을 실시하여 ScaledEI를 RND, MN, LCB, PI, EI, MES와 비교한다.

실험 결과

연구 질문

• RQ1 개선 추정의 불확실성을 고려하는 새로운 개선 기반 획득 함수가 기존 방법들보다 더 나은 최적화 성능을 내는가?
• RQ2 표준 글로벌 최적화 기준에서 수렴 속도와 최종 해 품질 측면에서 ScaledEI는 최첨단 획득 함수들(EI, LCB, MES 등)과 어떻게 비교되는가?
• RQ3 기존의 글로벌 최적화 솔버들과 비교해 ScaledEI를 사용한 베이지안 최적화가 비용이 많이 드는 함수 평가 횟수를 크게 줄이는가?
• RQ4 다양한 커널 선택(Matérn 5/2 대비 제곱 지수)에 대해 ScaledEI의 성능 일관성 측면에서 얼마나 강건한가?
• RQ5 ScaledEI는 복잡하고 고차원적인 인간 폐 순환 혈관 시스템의 PDE 모델에서 정확하고 효율적인 매개변수 추론을 가능하게 할 수 있는가? 임상 적용에 기여하는가?

주요 결과

• 모든 기준 함수에서 ScaledEI는 랜덤(RND) 정책보다 유의미하게 뛰어나며, 비교의 100%에서 성능이 동일하거나 더 좋았다.
• Matérn 5/2 커널에서 ScaledEI는 25%의 테스트 함수에서 EI보다 유의미하게 뛰어났고, 어떤 경우에도 유의미하게 열 劣하지 않았다. 반면 제곱 지수 커널에서는 반대의 결과가 나타났다.
• 제곱 지수 커널을 사용할 때 ScaledEI는 MES보다 평균 로그10 거리 측면에서 33%의 경우에서 유의미하게 낮은 성능을 보였고, 나머지 67%에서는 유의미한 차이가 없었다.
• 81%의 비교에서 ScaledEI의 성능 순위가 Matérn 5/2와 제곱 지수 커널 간에 일관되었으며, 이는 커널 선택에 대해 강건함을 시사한다.
• n=600 평가에서 ScaledEI는 92%의 테스트 함수에서 모든 다른 방법보다 유의미하게 뛰어났고, 나머지 8%의 경우에서는 유의미한 차이가 없었다.
• 폐 순환 PDE 모델에의 적용 결과, ScaledEI는 매우 적은 함수 평가 수로 정확한 매개변수 추론을 가능하게 하여, 비침습적 임상 진단 응용에 적합함을 입증했다.