[논문 리뷰] Information-Theoretic Multi-Objective Bayesian Optimization with Continuous Approximations

Syrine Belakaria, Aryan Deshwal외 1명|arXiv (Cornell University)|2020. 09. 12.

Advanced Multi-Objective Optimization Algorithms참고 문헌 47인용 수 6

한 줄 요약

이 논문은 파레토 최적 해의 정보 이득을 단위 비용당 최대화하기 위해 입력과 연속 적인 정밀도 근사치를 동시에 선택하는 정보 이론적 다목적 베이지안 최적화 프레임워크인 iMOCA를 제안한다. iMOCA-T와 iMOCA-E라는 두 가지 효율적인 엔트로피 근사법을 도입하여, 단일 정밀도 및 난이도 높은 연속 정밀도 기반 방법과 비교해 뛰어난 수렴 속도와 강건성을 입증하였으며, 실제 응용 사례에서 최대 85%의 비용 절감을 이룬다.

ABSTRACT

Many real-world applications involve black-box optimization of multiple objectives using continuous function approximations that trade-off accuracy and resource cost of evaluation. For example, in rocket launching research, we need to find designs that trade-off return-time and angular distance using continuous-fidelity simulators (e.g., varying tolerance parameter to trade-off simulation time and accuracy) for design evaluations. The goal is to approximate the optimal Pareto set by minimizing the cost for evaluations. In this paper, we propose a novel approach referred to as information-Theoretic Multi-Objective Bayesian Optimization with Continuous Approximations (iMOCA)} to solve this problem. The key idea is to select the sequence of input and function approximations for multiple objectives which maximize the information gain per unit cost for the optimal Pareto front. Our experiments on diverse synthetic and real-world benchmarks show that iMOCA significantly improves over existing single-fidelity methods.

연구 동기 및 목표

• 정밀도와 비용이 다양하게 변하는 연속 정밀도 시뮬레이터를 가진 다목적 블랙박스 최적화 문제를 해결하기 위해.
• 비용이 많이 드는 시뮬레이션 환경에서 최적의 파레토 집합을 근사하면서 총 평가 비용을 최소화하기 위해.
• 기계학습 분야에서 아직 탐색이 부족한 연속 정밀도 다목적 최적화 환경에 비모호하지 않은 정보 이론적 취득 함수를 확장하기 위해.
• 연속 정밀도를 가진 다목적 베이지안 최적화에서 엔트로피 추정을 위한 계산 효율적인 근사법을 개발하기 위해.
• 합성 문제와 실제 문제에서 단일 정밀도 및 난이도 높은 연속 정밀도 기반 다목적 최적화 기반 방법에 비해 iMOCA의 우수성을 입증하기 위해.

제안 방법

• iMOCA는 후보 평가와 파레토 집합 간의 상호정보량을 활용하여 최적의 파레토 최적 해에 대한 정보 이득을 단위 비용당 최대화하는 비모호한 취득 함수를 사용한다.
• 가우스 프로세스를 사용하여 입력 공간과 정밀도 공간에서 목표의 공동 분포를 모델링함으로써 MESMO 알고리즘을 연속 정밀도로 확장한다.
• 두 가지 다른 엔트로피 근사법이 도입된다: iMOCA-T는 빠른 계산을 위해 테일러 전개를 사용하고, iMOCA-E는 더 높은 정확도를 위해 더 타이트한 몬테카를로 근사를 사용한다.
• 기대 정보 이득과 평가 비용을 균형 잡는 비용 인식 취득 함수를 최적화하여 입력-정밀도 공간의 효율적 탐색을 가능하게 한다.
• 입력 공간 방법에 비해 계산 부담을 줄이기 위해 출력 공간 엔트로피 검색 원리를 활용해 엔트로피 추정을 근사한다.
• 프레임워크는 로켓 설계 및 네트워크 온 칩 최적화를 포함한 합성 및 실제 응용 사례 벤치마크를 지원하며, 구성 가능한 정밀도 파rameter를 제공한다.

실험 결과

연구 질문

• RQ1 정보 이론적 취득 함수는 연속 정밀도 근사치를 가진 다목적 베이지안 최적화에 효과적으로 확장될 수 있는가?
• RQ2 다양한 엔트로피 근사 전략은 연속 정밀도 다목적 최적화에서 계산 효율성과 최적화 성능 간의 트레이드오프에 어떤 영향을 미치는가?
• RQ3 iMOCA는 수렴 비용과 파레토 최적 해 품질 측면에서 최신의 단일 정밀도 및 난이도 높은 연속 정밀도 다목적 최적화 방법보다 뛰어나게 성능을 발휘하는가?
• RQ4 iMOCA는 엔트로피 추정에 사용된 몬테카를로 샘플 수의 변화에 대해 PESMO와 같은 기존 방법과 비교해 얼마나 강건한가?
• RQ5 다양한 실제 및 합성 벤치마크에서 iMOCA는 파레토 최적 해 품질을 유지하거나 향상시키면서 총 평가 비용을 얼마나 줄일 수 있는가?

주요 결과

• iMOCA는 합성 및 실제 응용 사례에서 모든 단일 정밀도 기반 방법과 난이도 높은 연속 정밀도 접근법보다 파레토 초과체적 부피(PHV) 및 R2 지표 측면에서 뛰어난 성능을 보였다.
• iMOCA-E는 더 타이트한 엔트로피 근사를 통해 iMOCA-T보다 더 빠른 수렴 속도를 달성했지만, iMOCA-T는 훨씬 낮은 계산 시간으로 경쟁 가능한 성능 유지를 하였다.
• iMOCA-T와 iMOCA-E 모두 몬테카를로 샘플 수의 변화에 강건했으며, 단 한 개의 샘플조차도 강력한 성능을 유지했고, PESMO는 샘플 수가 줄어들수록 성능이 급격히 악화되는 것으로 나타났다.
• 로켓 발사 문제에서 iMOCA는 최고 성능 기반 방법 대비 수렴 비용을 78.9% 감소시켰으며, 비용 절감 요인은 85%에 이르렀다.
• 회로 설계 벤치마크에서 iMOCA는 최고 기반 방법 대비 52.1%의 비용 절감을 달성하여 다양한 문제 유형에 걸쳐 뛰어난 일반화 능력을 입증하였다.
• 모든 벤치마크에서 iMOCA는 총 평가 비용을 최대 85%까지 절감하였으며, PHV 및 R2 지표 모두에서 일관된 향상을 보였다.