[논문 리뷰] Recent Advances in Bayesian Optimization

Xilu Wang, Yaochu Jin외 2명|arXiv (Cornell University)|2022. 06. 07.

Advanced Bandit Algorithms Research인용 수 8

한 줄 요약

이 논문은 2016년 이후 베이지안 최적화 분야의 최근 발전을 종합적으로 조망하며, 고차원성, 제약 조건, 노이즈, 다중 정밀도 설정 등 구체적인 최적화 과제 9종에 초점을 맞춰 서로서모 모델링 및 할당 함수 설계 분야의 혁신을 다룹니다. 또한 분산형, 이질적, 공정성 기반 최적화 분야에서의 주요 미해결 문제를 규명하며, 특히 개인정보 보호 및 피어 투 피어 시스템에서의 응용에 중점을 둡니다.

ABSTRACT

Bayesian optimization has emerged at the forefront of expensive black-box optimization due to its data efficiency. Recent years have witnessed a proliferation of studies on the development of new Bayesian optimization algorithms and their applications. Hence, this paper attempts to provide a comprehensive and updated survey of recent advances in Bayesian optimization and identify interesting open problems. We categorize the existing work on Bayesian optimization into nine main groups according to the motivations and focus of the proposed algorithms. For each category, we present the main advances with respect to the construction of surrogate models and adaptation of the acquisition functions. Finally, we discuss the open questions and suggest promising future research directions, in particular with regard to heterogeneity, privacy preservation, and fairness in distributed and federated optimization systems.

연구 동기 및 목표

• 2016년 이후 베이지안 최적화의 발전, 특히 서로서모 모델링 및 할당 함수 설계 분야의 체계적이고 최신의 리뷰 제공
• 고차원성, 제약 조건, 노이즈 등의 최적화 과제를 기반으로 기존의 베이지안 최적화 방법을 아홉 가지의 구체적 문제 영역으로 분류하기
• 분산형, 이질적, 개인정보 보호 기반 베이지안 최적화 환경에서의 주요 미해결 연구 문제를 규명하고 강조하기
• 특히 협업 및 피어 투 피어 학습 환경에서의 베이지안 최적화 분야에서의 공정성 문제에 대한 미발전 영역 탐색하기
• 공정성, 이질성, 개인정보 보호를 고려한 베이지안 최적화 프레임워크 내에서의 미래 연구 방향을 제안함으로써 향후 연구를 이끌기

제안 방법

• 고차원 영역, 비연속 영역, 노이즈, 제약 조건, 계산 복잡도, 다중 작업, 다중 정밀도, 지식 전이, 병렬 처리 등의 핵심 과제를 기반으로 베이지안 최적화 연구를 아홉 가지 그룹으로 분류함
• 가우시안 프로세스 기반의 서로서모 모델 발전을 검토하며, 가능도 최대화 및 다양한 문제 구조에 대한 모델 적응 기법에 중점을 둠
• 탐색과 이용의 균형을 이루며, 검색 편향 및 각 목표 함수의 평가 시간 차이를 고려한 할당 함수 개선 사례 분석
• 공정성 제약 조건을 쿼리 선택 과정에서 이행하기 위해 보조 GP 모델을 사용하는 FairBO라는 제약 조건이 있는 베이지안 최적화 프레임워크 도입 및 논의
• 협업 환경에서 최적화 효율성과 공정성의 균형을 맞추기 위해 Gini 기반 사회적 평가 함수를 도입한 분산 배치 GP-UCB 알고리즘의 확장
• 베이지안 최적화에 공정성 정의를 통합하기 위한 프레임워크 제안하며, 알고리즘 통합 이전에 명확한 수학적 공정성 개념 수립을 주장함

실험 결과

연구 질문

• RQ1 함수 평가 횟수를 최소화하면서도 고차원성 및 비연속 영역을 가진 검색 공간에 베이지안 최적화를 효과적으로 적용할 수 있는 방법은 무엇인가요?
• RQ2 특히 협업 또는 피어 투 피어 환경에서 공정성 제약 조건을 베이지안 최적화에 통합하기 위한 가장 효과적인 전략은 무엇인가요?
• RQ3 계산 비용이 크게 다른 이질적 목표 함수를 가진 최적화 문제에서 베이지안 최적화는 어떻게 처리할 수 있나요?
• RQ4 개인정보 보호 및 분산 최적화 시스템에 베이지안 최적화를 적용할 때의 주요 과제와 미해결 문제는 무엇인가요?
• RQ5 서로서모 모델과 할당 함수는 어떻게 설계되어야 하며, 최적화 결과의 데이터 효율성과 공정성을 동시에 확보할 수 있나요?

주요 결과

• 최근의 베이지안 최적화 발전은 고차원성 및 제약 조건이 있는 최적화 문제에서 가우시안 프로세스 기반 서로서모 모델의 정교화와 적응형 할당 함수의 개선을 통해 성능 향상을 크게 이룩함
• FairBO 프레임워크는 보조 GP 모델을 활용해 할당 함수 최적화 과정에서 공정성 제약 조건을 성공적으로 통합함. 다만, 단일 공정성 정의에 국한됨
• 분산형 및 피어 투 피어 베이지안 최적화 시스템은 효율성과 공정성의 균형을 맞추는 데 도전적이며, '공정한 손실'(fair regret)과 Gini 기반 평가 함수의 도입이 초기에 유망한 해결책을 제시함
• 이질적 최적화—목표 함수의 계산 비용이 크게 다름—는 여전히 미발전 영역이며, 이러한 환경에서의 검색 편향 감소에 관한 연구는 산발적으로만 보고됨
• 개인정보 보호 및 공정성 인식 최적화는 신장 중이지만 여전히 대부분 미해결 상태이며, 표준화된 공정성 지표나 확장 가능한 알고리즘도 아직 확립되지 않음
• 베이지안 최적화에 공정성 통합을 위해서는 효과적인 알고리즘적 해결책을 개발하기 전에 명확한 수학적 공정성 개념 수립이 필수적임