[논문 리뷰] Investigating Bayesian optimization for expensive-to-evaluate black box functions: Application in fluid dynamics

Mike Diessner, O'Connor, Joseph외 5명|arXiv (Cornell University)|2022. 07. 19.

Machine Learning and Data Classification인용 수 4

한 줄 요약

이 논문은 계산 유체역학(CFD)에서 비용이 많이 드는 블랙박스 함수에 대해 베이지안 최적화(BO)를 평가하며, 획득 함수, 샘플링 방법, 단일점 최적화 대비 다중점 최적화를 비교한다. 몬테카를로 기반 및 상한 신뢰도(Upper Confidence Bound, UCB) 획득 함수를 사용한 배치 BO는 효율적이고 병렬 처리가 가능한 최적화를 가능하게 하여 실제 CFD 문제에서 40회 이내의 평가로 뚜렷한 항력 감소와 순 에너지 절감을 달성한다. 이는 뉴캐슬 대학교 베이지안 최적화(NUBO) 프레임워크를 통해 수행되었다.

ABSTRACT

Bayesian optimization provides an effective method to optimize expensive-to-evaluate black box functions. It has been widely applied to problems in many fields, including notably in computer science, e.g. in machine learning to optimize hyperparameters of neural networks, and in engineering, e.g. in fluid dynamics to optimize control strategies that maximize drag reduction. This paper empirically studies and compares the performance and the robustness of common Bayesian optimization algorithms on a range of synthetic test functions to provide general guidance on the design of Bayesian optimization algorithms for specific problems. It investigates the choice of acquisition function, the effect of different numbers of training samples, the exact and Monte Carlo based calculation of acquisition functions, and both single-point and multi-point optimization. The test functions considered cover a wide selection of challenges and therefore serve as an ideal test bed to understand the performance of Bayesian optimization to specific challenges, and in general. To illustrate how these findings can be used to inform a Bayesian optimization setup tailored to a specific problem, two simulations in the area of computational fluid dynamics are optimized, giving evidence that suitable solutions can be found in a small number of evaluations of the objective function for complex, real problems. The results of our investigation can similarly be applied to other areas, such as machine learning and physical experiments, where objective functions are expensive to evaluate and their mathematical expressions are unknown.

연구 동기 및 목표

• 공 ingeneering 및 머신러닝 과제를 반영하는 합성 테스트 함수를 대상으로 일반적인 베이지안 최적화 알고리즘의 성능과 내구성을 평가하고 비교하기.
• 획득 함수, 학습 샘플 크기, 분석적 대비 몬테카를로 획득 계산, 단일점 대비 다중점 최적화를 분석하여 특정 문제에 적합한 BO 설정 설계를 안내하기.
• 비용이 많이 드는 목표 함수를 가진 실제 세계의 계산 유체역학(CFD) 시뮬레이션에서 BO의 실용적 적용 가능성을 입증하기.
• 항력 감소 및 순 에너지 절감과 같은 복잡한 실제 문제에서 소수의 평가로 효과적인 해를 찾을 수 있음을 입증하기.
• 함수 평가가 비용이 많이 들고 알려지지 않은 분야인 하이퍼파rameter 튜닝 및 물리 실험과 같은 다른 분야에서 BO의 활용을 안내하기.

제안 방법

• 복잡도가 증가하는 합성 테스트 함수에서 여러 획득 함수—기대 개선도(Expected Improvement, EI), 개선 가능성 확률(Probability of Improvement, PI), 상한 신뢰도(Upper Confidence Bound, UCB), 엔트로피 검색(Entropy Search, ES), 예측 엔트로피 검색(Predictive Entropy Search, PES), 최대값 엔트로피 검색(Max-value Entropy Search, MES)—를 경험적으로 벤치마킹하였다.
• 획득 함수 계산에 대한 분석적 방법과 몬테카를로 샘플링 방법을 비교하여 정확성과 계산 비용 간의 트레이드오프를 평가하였다.
• 다양한 획득 함수에서 초기 학습 데이터 포인트 수(5에서 20까지)의 변화가 최적화 성능에 미치는 영향을 평가하였다.
• 특히 병렬 평가 효율성에 중점을 두고 단일점 최적화와 다중점(배치) 최적화 전략을 대조하였다.
• 가장 성능이 뛰어난 BO 설정을 두 가지 새로운 CFD 시뮬레이션에 적용하였다: 평판 위에서의 전역 항력 감소, 그리고 분리된 블로잉 영역을 가진 동시에 항력 감소와 순 에너지 절감.
• 고비용의 실제 CFD 시뮬레이션에서 BO 파이프라인을 구현하고 테스트하기 위해 뉴캐슬 대학교 베이지안 최적화(NUBO) 프레임워크를 사용하였다.

실험 결과

연구 질문

• RQ1 진동, 급격한 경사 또는 평평한 영역이 있는 복잡한 합성 테스트 함수에서 어떤 획득 함수가 가장 우수한 성능을 보였는가?
• RQ2 초기 학습 샘플 수가 베이지안 최적화의 수렴성과 내구성에 어떤 영향을 미치는가?
• RQ3 정확성과 확장성 측면에서 분석적 방법 대비 몬테카를로 기반 획득 함수 계산 간의 트레이드오프는 무엇인가?
• RQ4 함수 평가가 시간이 오래 걸리는 상황에서 다중점(배치) 베이지안 최적화가 단일점 최적화를 언제 초월하는가? 특히 병렬 처리 및 평가 효율성 측면에서.
• RQ5 비용이 많이 드는 함수 평가를 최소로 하면서도 베이지안 최적화가 실제 CFD 시뮬레이션에서 의미 있는 개선을 이룰 수 있는가?

주요 결과

• 진동이나 급격한 기울기를 가진 복잡한 테스트 함수에서, 상한 신뢰도(Upper Confidence Bound, UCB) 및 그 다중점 변형(BUCB)과 같은 낙관적 정책이 다른 획득 함수를 능가하였다.
• 시험된 BO 알고리즘의 성능에 대해 초기 학습 샘플 수에 유의미한 영향이 없었으며, 이는 다양한 초기화 크기에서의 내구성을 시사한다.
• 기대 개선도(Expected Improvement, EI)와 같은 개선 기반 획득 함수는 평평한 테스트 함수에서 효과적인 탐색에 실패하였다.
• 몬테카를로 기반 획득 함수와 다중점(배치) 최적화는 분석적 단일점 방법의 강력한 대안이 되었으며, 특히 병렬 평가가 가능한 경우에 유용하였다.
• 함수 평가가 시간이 오래 걸리는 상황에서 다중점 접근 방식은 병렬 시뮬레이션 실행을 가능하게 하여 총 최적화 시간을 줄이는 데 특히 효과적이었다.
• 베이지안 최적화를 통해 실제 CFD 시뮬레이션에서 40회 이내의 목표 함수 평가로 최대 60%의 전역 항력 감소와 순 에너지 절감을 달성하였으며, 이는 강력한 실용적 적용 가능성을 입증한다.