[논문 리뷰] A Bayesian Approach for the Robust Optimisation of Expensive-To-Evaluate Functions.

Nicholas D. Sanders, Richard Everson외 2명|arXiv (Cornell University)|2019. 04. 25.

Advanced Multi-Objective Optimization Algorithms참고 문헌 26인용 수 9

한 줄 요약

이 논문은 높은 성능을 유지하면서도 입력 변동에 민감하지 않은 설계 공간 영역을 식별함으로써 평가가 비용이 많이 드는 함수에 대한 베이지안 강건 최적화 방법을 제안한다. 가우시안 프로세스 샘플을 사용하여 실현값들 간의 기대 개선도를 추정하고, 이를 진화 알고리즘으로 최적화하며, 다차원 테스트 함수에서 최신 기법들보다 뛰어난 수렴 성능을 보인다.

ABSTRACT

Many expensive black-box optimisation problems are sensitive to their inputs. In these problems it makes more sense to locate a region of good designs, than a single, possible fragile, optimal design. Expensive black-box functions can be optimised effectively with Bayesian optimisation, where a Gaussian process is a popular choice as a prior over the expensive function. We propose a method for robust optimisation using Bayesian optimisation to find a region of design space in which the expensive function's performance is insensitive to the inputs whilst retaining a good quality. This is achieved by sampling realisations from a Gaussian process modelling the expensive function and evaluating the improvement for each realisation. The expectation of these improvements can be optimised cheaply with an evolutionary algorithm to determine the next location at which to evaluate the expensive function. We describe an efficient process to locate the optimum expected improvement. We show empirically that evaluating the expensive function at the location in the candidate sweet spot about which the model is most uncertain or at random yield the best convergence in contrast to exploitative schemes. We illustrate our method on six test functions in two, five, and ten dimensions, and demonstrate that it is able to outperform a state-of-the-art approach from the literature.

연구 동기 및 목표

• 평가가 비용이 많이 드는 블랙박스 최적화에서 단일 최적 설계의 한계를 해결하기 위해, 작은 입력 변동이 성능을 떨어뜨릴 수 있음을 고려한다.
• 입력 불확실성에도 불구하고 성능이 높게 유지되는 설계 공간의 강건한 영역을 식별한다.
• 伝통적인 탐색 중심 최적화 전략에 비해 수렴 속도와 강건성을 향상시킨다.
• 모델 불확실성 하에서 기대 개선도를 추정하기 위한 효율적인 샘플링 기반 접근법을 개발한다.
• 2차원, 5차원, 10차원에서의 벤치마크 함수를 대상으로 본 방법의 효과성을 입증한다.

제안 방법

• 평가가 비용이 많이 드는 함수에 대한 사전 분포로 가우시안 프로세스를 사용하여 불확실성 모델링과 확률적 추론을 지원한다.
• 가능한 진짜 함수 행동을 표현하기 위해 가우시안 프로세스의 다수 실현값을 샘플링한다.
• 각 샘플된 실현값에 대해 현재 최고 값 대비 개선도를 계산하여 잠재적 이득을 평가한다.
• 모든 샘플된 실현값에 걸친 기대 개선도를 계산하고, 이를 진화 알고리즘을 통해 최적화한다.
• 기대 개선도를 최대화하는 위치를 기반으로 다음 평가 지점을 선택함으로써 탐색과 강건성의 균형을 이룬다.
• 동적으로 높은 불확실성과 높은 기대 성능 영역을 대상으로 하여 단일 최적점에 대한 과적합을 피한다.

실험 결과

연구 질문

• RQ1 베이지안 최적화 프레임워크는 성능이 높고 입력 변동에 민감하지 않은 설계 공간 영역을 식별할 수 있는가?
• RQ2 샘플링 기반 기대 개선도 추정은 강건 최적화에서 결정론적 또는 단일 경로 기반 개선도 지표에 비해 어떻게 비교되는가?
• RQ3 획득 함수에서 불확실성과 강건성을 대상으로 하는 것이 탐색 중심 전략에 비해 더 빠른 수렴을 이끌어내는가?
• RQ4 다차원 비용이 많이 드는 함수에서 제안된 방법은 최신 기술적 강건 최적화 접근법에 비해 어떻게 성능을 발휘하는가?
• RQ5 기대 개선도 최적화를 위해 진화 알고리즘을 사용할 경우, 강건성과 수렴성은 어떻게 향상되는가?

주요 결과

• 성능이 높고 민감도가 낮은 '좋은 영역'(sweet spot)으로 간주되는 후보 지점에서 평가함으로써, 탐색 중심 전략에 비해 더 나은 수렴 성능을 달성한다.
• 가우시안 프로세스 모델에서 최대 불확실성 영역을 대상으로 하는 것이 랜덤 샘플링이나 순수하게 탐욕적인 선택에 비해 훨씬 뛰어난 성능을 발휘한다.
• 2차원, 5차원, 10차원에서의 여섯 개의 테스트 함수에서 제안된 방법은 최신 기술적 강건 최적화 접근법을 초월한다.
• 기대 개선도를 계산하기 위해 실현값을 샘플링하는 방식은 탐색과 강건성의 효과적 균형을 이룰 수 있도록 한다.
• 진화 알고리즘이 기대 개선도 목적 함수를 효율적으로 최적화하여, 고차원 문제에 대한 확장성과 실용성을 확보한다.
• 본 방법은 입력 변동에 노출되었을 때도 성능이 안정적인 강건한 영역을 성공적으로 식별하여, 실세계 적용에 있어 실용성과 타당성을 입증한다.