[논문 리뷰] Active Learning and Bayesian Optimization: a Unified Perspective to Learn with a Goal

Francesco Fiore, Michela Nardelli외 1명|arXiv (Cornell University)|2023. 03. 02.

Machine Learning and Algorithms참고 문헌 150인용 수 6

한 줄 요약

이 논문은 베이지안 최적화와 액티브 러닝을 목표 지향적 적응형 샘플링 방법으로 통합하여, 단일 및 다중 정밀도 환경에서 둘의 핵심 기준—이득/정보성과 탐색/대표성—의 등가성을 체계화한다. 주요 기여는 최적화 효율성과 강건성을 향상시키는 원리적인 융합 프레임워크를 제공하는 것으로, 특히 계산 자원이 제한된 환경에서 두각을 나타낸다.

ABSTRACT

Science and Engineering applications are typically associated with expensive optimization problems to identify optimal design solutions and states of the system of interest. Bayesian optimization and active learning compute surrogate models through efficient adaptive sampling schemes to assist and accelerate this search task toward a given optimization goal. Both those methodologies are driven by specific infill/learning criteria which quantify the utility with respect to the set goal of evaluating the objective function for unknown combinations of optimization variables. While the two fields have seen an exponential growth in popularity in the past decades, their dualism and synergy have received relatively little attention to date. This paper discusses and formalizes the synergy between Bayesian optimization and active learning as symbiotic adaptive sampling methodologies driven by common principles. In particular, we demonstrate this unified perspective through the formalization of the analogy between the Bayesian infill criteria and active learning criteria as driving principles of both the goal-driven procedures. To support our original perspective, we propose a general classification of adaptive sampling techniques to highlight similarities and differences between the vast families of adaptive sampling, active learning, and Bayesian optimization. Accordingly, the synergy is demonstrated mapping the Bayesian infill criteria with the active learning criteria, and is formalized for searches informed by both a single information source and multiple levels of fidelity. In addition, we provide guidelines to apply those learning criteria investigating the performance of different Bayesian schemes for a variety of benchmark problems to highlight benefits and limitations over mathematical properties that characterize real-world applications.

연구 동기 및 목표

• 베이지안 최적화와 액티브 러닝을 공통의 학습 목표에 의해 이끄는 적응형 샘플링 프레임워크로서의 개념적·방법론적 융합을 체계화하는 것.
• 액티브 러닝 기준(정보성, 대표성/다양성)과 베이지안 인페일 기준(이득, 탐색) 간의 双대성(이중성)을 식별하고, 샘플링 유틸리티의 통합적 동력으로 매핑하는 것.
• 저정밀도 및 고정밀도 데이터 소스를 활용하여 계산 제약 조건 하에서 학습을 가속화하는 다중 정밀도 환경으로 통합적 시각을 확장하는 것.
• 문제 특성과 자원 가용성에 기반하여 최적의 학습 기준을 선택하는 경험적 지침을 제공하는 것.
• 다양한 목적 함수 성질을 가진 벤치마크 문제를 통해 탐색과 이득의 균형 잡힌 사용이 다양한 목적 함수 성질에서 뛰어난 성능과 강건성을 보임을 보여주는 것.

제안 방법

• 목표 지향 학습에 기반한 공통 프레임워크 내에서 베이지안 최적화와 액티브 러닝을 위치짓기 위한 적응형 샘플링 기법의 일반적 분류를 제안한다.
• 액티브 러닝 기준인 정보성과 베이지안 최적화의 인페일 기준인 이득을 매핑하여, 둘 다 높은 기대 향상 또는 불확실성 감소 영역을 햖थन하는 데 초점을 맞춘다.
• 액티브 러닝 기준인 대표성/다양성과 베이지안 인페일 기준인 탐색을 매핑하여, 둘 다 영역 전반의 커버리지 및 불확실성 감소를 촉진한다.
• 저정밀도 모델을 보조 정보 소스로 통합하여 다중 정밀도 환경으로의 일반화를 수행한다. 이는 고정밀도 평가 횟수를 줄이는 데 기여한다.
• 표준 확보 함수(예: 기대 향상, 엔트로피 검색)를 단일 및 다중 정밀도 맥락 모두에서 사용하여 제안된 융합 효과를 평가한다.
• 비선형성, 다모달성, 노이즈, 비연속성 등의 다양한 수학적 성질을 가진 벤치마크 문제에서 경험적 평가를 수행하여 성능 트레이드오���을 평가한다.

실험 결과

연구 질문

• RQ1 통합 프레임워크 내에서 액티브 러닝의 핵심 기준(정보성, 대표성/다양성)과 베이지안 최적화의 인페일 기준(이득, 탐색)은 어떻게 매핑되는가?
• RQ2 여러 수준의 정밀도가 존재할 경우, 베이지안 최적화와 액티브 러닝 간의 융합은 어떻게 체계화될 수 있는가?
• RQ3 탐색과 이득의 균형이 다양한 목적 함수 성질에 걸쳐 최적화 성능에 어떤 영향을 미치는가?
• RQ4 다중 정밀도 학습은 자원 제약 조건 하에서 계산 효율성과 강건성을 어떻게 향상시키는가?
• RQ5 문제 특성과 가용한 계산 자원에 기반하여 학습 기준을 선택하는 데 실용적인 지침은 무엇인가?

주요 결과

• 이득과 탐색의 균형 잡힌 조합은 사전 지식가 부족한 상황에서 특히, 고립된 기준을 사용하는 것보다 더 나은 성능과 강건성을 보인다.
• 순수한 탐색 또는 대표성/다양성 전략은 고차원 문제에서 탐색 공간의 비효율적 샘플링으로 인해 성능이著しく 악화될 수 있다.
• 다중 정밀도 학습 체계는 빠른 저정밀도 모델을 활용하여 고정밀도 평가 횟수를 줄여 상당한 계산 절감과 비연속적이거나 다모달적인 목적 함수에 대한 강건성을 향상시킨다.
• 제안된 통합 프레임워크는 단일 및 다중 정밀도 환경 모두에서 액티브 러닝과 베이지안 최적화 원칙의 일관된 적용을 가능하게 하여 모델 인식도 향상되고 수렴 속도도 빨라진다.
• 목적 함수의 수학적 성질(예: 노이즈, 비선형성)을 고려한 확보 함수의 정보 기반 활용은 더 효율적이고 신뢰할 수 있는 최적화 결과를 이끈다.
• 정보성과 이득, 대표성/다양성과 탐색 간의 체계화된 유사성은 실제 공학 및 과학 응용 분야에서 적응형 샘플링 전략을 설계하는 데 원리적인 기반을 제공한다.