[논문 리뷰] Neural Process for Black-Box Model Optimization Under Bayesian Framework

Zhongkai Shangguan, Lei Lin외 2명|arXiv (Cornell University)|2021. 04. 03.

Gaussian Processes and Bayesian Inference참고 문헌 27인용 수 5

한 줄 요약

이 논문은 신경 프로세스를 사용하여 베이지안 최적화의 대체 모델로 사용하는 NPBO(Neural Process for Bayesian Optimization)를 제안한다. NPBO는 블랙박스 모델을 효율적으로 최적화하기 위해 가우시안 프로세스를 신경 프로세스로 대체하는 확장 가능한 베이지안 최적화 프레임워크이다. NPBO는 계산 복잡도를 O(N³)에서 선형으로 감소시키면서도 불확실성 추정을 유지하며, 전력 시스템 파라미터 최적화 작업에서 GP, 랜덤 포레스트, DNGO, BOHAMIANN를 능가하고, 일곱 가지 벤치마크 문제에서 경쟁력 있는 성능을 보였다.

ABSTRACT

There are a large number of optimization problems in physical models where the relationships between model parameters and outputs are unknown or hard to track. These models are named as black-box models in general because they can only be viewed in terms of inputs and outputs, without knowledge of the internal workings. Optimizing the black-box model parameters has become increasingly expensive and time consuming as they have become more complex. Hence, developing effective and efficient black-box model optimization algorithms has become an important task. One powerful algorithm to solve such problem is Bayesian optimization, which can effectively estimates the model parameters that lead to the best performance, and Gaussian Process (GP) has been one of the most widely used surrogate model in Bayesian optimization. However, the time complexity of GP scales cubically with respect to the number of observed model outputs, and GP does not scale well with large parameter dimension either. Consequently, it has been challenging for GP to optimize black-box models that need to query many observations and/or have many parameters. To overcome the drawbacks of GP, in this study, we propose a general Bayesian optimization algorithm that employs a Neural Process (NP) as the surrogate model to perform black-box model optimization, namely, Neural Process for Bayesian Optimization (NPBO). In order to validate the benefits of NPBO, we compare NPBO with four benchmark approaches on a power system parameter optimization problem and a series of seven benchmark Bayesian optimization problems. The results show that the proposed NPBO performs better than the other four benchmark approaches on the power system parameter optimization problem and competitively on the seven benchmark problems.

연구 동기 및 목표

• 블랙박스 모델에 대한 베이지안 최적화에서 가우시안 프로세스의 높은 계산 비용과 낮은 확장성 문제를 해결하기 위해.
• 큰 관측 집합과 고차원 파라미터 공간에서 효율적으로 확장되면서도 불확실성 추정을 유지하는 대체 모델을 개발하기 위해.
• 평가가 비용이 많이 드는 복잡한 물리 시스템, 예를 들어 전력 시스템에서의 파라미터 최적화의 효율성과 정확도를 향상시키기 위해.
• 실제 세계 문제와 합성 벤치마크 문제에서 최신 베이지안 최적화 방법들과 NPBO를 비교 평가하기 위해.

제안 방법

• NPBO는 블랙박스 모델의 반응 표면을 근사하고 불확실성을 추정하기 위해 신경 프로세스(NP)를 대체 모델로 사용한다.
• 관측된 입력-출력 쌍을 기반으로 NP를 훈련하여, 다양한 파라미터 구성에 대해 일반화 가능한 확률적 과정을 학습한다.
• 베이지안 최적화 루프는 NP의 예측 평균과 분산을 사용하여 획득 함수를 지도하며, 탐색과 이용의 균형을 이룬다.
• 획득 함수는 유한한 손실를 최소화하기 위해 다음 쿼리 포인트를 선택하며, 이 과정을 반복적으로 대체 모델을 정교화한다.
• NPBO는 신경망 아키텍처를 활용하여 O(N³) 스케일링을 초월하는 선형 시간 복잡도를 달성한다.
• 이 방법은 실세계의 14개 파라미터 전력 시스템 모델과 일곱 개의 합성 벤치마크 함수에 모두 적용된다.

실험 결과

연구 질문

• RQ1 신경 프로세스 대체 모델은 고차원이고 비용이 많이 드는 블랙박스 모델에 대한 베이지안 최적화에서 가우시안 프로세스를 능가할 수 있는가?
• RQ2 GP 기반 방법과 비교해 계산 비용을 크게 감소시키면서도 정확한 불확실성 추정을 유지하는가?
• RQ3 비용이 많이 드는 많은 평가가 필요한 실세계 공학 문제에서 NPBO는 어떻게 성능을 발휘하는가?
• RQ4 표준 벤치마크 최적화 문제에서 DNGO나 BOHAMIANN과 같은 현대적 대체 모델과 비교해 NPBO는 어떻게 성능을 내는가?

주요 결과

• NPBO는 전력 시스템 파라미터 최적화 문제에서 평균 제곱오차(MSE) 5.182×10⁻³을 기록하여, GP(1.759×10⁻¹), DNGO(1.504×10⁻¹), BOHAMIANN(2.718×10⁻²)를 모두 능가했다.
• NPBO는 수렴에 단 157초가 소요되어 BOHAMIANN(1672초)과 GP(349초)보다 훨씬 빠르게 수렴했다.
• 일곱 가지 벤치마크 문제에서 NPBO는 일곱 개의 함수 중 네 개에서 상위 세 개 성능을 기록했으며, GP, BOHAMIANN, DNGO와 경쟁 가능한 결과를 보였다.
• Branin 벤치마크에서 NPBO는 GP와 BOHAMIANN 수준의 초기 손실 성능을 보였고, 랜덤 포레스트와 랜덤 서치를 능가했다.
• NPBO를 통해 최적화된 모델 출력은 목표 출력과 거의 일치했으며, 관측 수가 적은 초기 단계에서도 최소한의 편차를 보였고, 이는 높은 샘플 효율성을 의미한다.
• 결과적으로 NPBO는 블랙박스 최적화에서 정확도, 불확실성 추정, 계산 효율성의 균형을 효과적으로 달성함을 보여주었다.