[논문 리뷰] Re-Examining Linear Embeddings for High-Dimensional Bayesian Optimization

Benjamin Letham, Roberto Calandra외 2명|arXiv (Cornell University)|2020. 01. 31.

Advanced Multi-Objective Optimization Algorithms참고 문헌 54인용 수 32

한 줄 요약

본 논문은 고차원 베이지안 최적화(HDBO)에서 선형 임베딩(무작위 투영)이 성능이 저하될 수 있는 이유를 분석하고, 모델링 개선과 최적해를 포함할 확률을 높이는 제약된 임베딩과 Mahalanobis 커널을 사용하는 ALEBO를 제안한다.

ABSTRACT

Bayesian optimization (BO) is a popular approach to optimize expensive-to-evaluate black-box functions. A significant challenge in BO is to scale to high-dimensional parameter spaces while retaining sample efficiency. A solution considered in existing literature is to embed the high-dimensional space in a lower-dimensional manifold, often via a random linear embedding. In this paper, we identify several crucial issues and misconceptions about the use of linear embeddings for BO. We study the properties of linear embeddings from the literature and show that some of the design choices in current approaches adversely impact their performance. We show empirically that properly addressing these issues significantly improves the efficacy of linear embeddings for BO on a range of problems, including learning a gait policy for robot locomotion.

연구 동기 및 목표

• HDBO에서 사용되는 선형 임베딩이 왜 성능이 저하되는지와 모델링 문제를 진단하는 방법을 식별한다.
• 선형 임베딩을 사용할 때 GP 모델링 가능성을 개선하는 방법을 개발한다.
• 벤치마크와 실제 문제에서 기존 접근법을 능가하는 새로운 선형 임베딩 HDBO 방법인 ALEBO를 제안한다.

제안 방법

• BO에서 선형 임베딩의 특성과 주변 상자 경계로의 클리핑이 함수에 어떻게 왜곡을 일으키는지 분석한다.
• 선형 임베딩에 맞춤화된 Mahalanobis 커널을 도입하여 GP 모델링을 개선한다.
• 비선형 클리핑 왜 distortions를 피하기 위해 B^†y의 -1 <= ... <= 1로 정의된 다면체(polytope)로 임베딩 내 최적화를 제약한다.
• 몬테카를로와 선형 프로그래밍을 통해 임베딩에 최적해가 포함될 확률 P_opt를 추정하고 최대화한다.
• 하이퍼스피어 기반의 무작위 프로젝션, Mahalanobis 커널, 제약된 획득 최적화를 사용하는 ALEBO를 제안한다.
• 합성 HDBO 벤치마크와 실제 작업(NAS, 로봇 보행)에서 ALEBO의 성능을 시연한다.

실험 결과

연구 질문

• RQ1 상자 경계가 존재할 때 BO에서 선형 임베딩이 함수 모델링을 어떻게 왜곡시키는가?
• RQ2 선형 임베딩에 맞춘 커널(Mahalanobis 커널)이 임베딩 내 GP 모델링을 개선할 수 있는가?
• RQ3 클리핑으로 인한 비선형 투영 왜곡을 피하면서 최적해를 포함할 가능성을 높게 유지하는 방법은?
• RQ4 적응형 선형 임베딩 BO 방법(ALEBO)이 고차원 작업에서 기존의 선형 임베딩 BO 접근법을 능가하는가?
• RQ5 합성 벤치마크와 실제 최적화 문제에서 ALEBO의 경험적 성능은 어떠한가?

주요 결과

• 투영된 점이 주변 경계를 벗어나면 선형 임베딩이 비선형 왜곡을 일으켜 GP 모델 가능성을 해친다.
• 임베딩 내 Mahalanobis 커널은 실제 부분공간 투영에서 도출되어 ARD RBF 커널보다 GP 모델링을 개선한다.
• y를 -1 <= B^†y <= 1을 만족하도록 제약하면 클리핑 왜곡을 피하고 효과적인 선형 모델링이 가능하지만 검색 공간의 유효 범위가 감소한다.
• P_opt는 d_e > d 및 하이퍼스피어 샘플링에 의해 증가하여 성공 가능성을 높인다.
• 하이퍼스피어 기반 임베딩, Mahalanobis 커널, 제약된 최적화를 결합한 ALEBO는 벤치마크(D=1000)까지 및 실제 문제(NAS, 로봇 보행)에서 REMBO와 여러 HDBO 베이스라인보다 우수한 성능을 보인다.
• 제약된 NAS 작업과 로봇 보행에서 ALEBO는 임베딩 기반 접근법 중에서 가장 우수한 방법들 가운데 하나다.