[논문 리뷰] Local Latent Space Bayesian Optimization over Structured Inputs

Natalie Maus, Haydn T. Jones외 4명|arXiv (Cornell University)|2022. 01. 28.

Machine Learning and Data Classification인용 수 12

한 줄 요약

이 논문은 구조적 입력(예: 분자)을 동시에 최적화할 수 있도록 잠재 공간의 신뢰 영역을 입력 공간의 신뢰 영역과 일치시키는 국소 잠재 공간 베이지안 최적화 방법인 LOL-BO를 제안한다. 공유 인코더를 깊이 있는 커널로 사용하는 딥 오토인코더와 신뢰 영역 베이지안 최적화 전략을 공동 설계함으로써, LOL-BO는 실제 벤치마크에서 최신 기법 대비 목표 함수 값에 대해 최대 22배 향상된 성능을 보이며, 잠재 공간 모델링만큼이나 최적화 전략이 핵심임을 입증한다.

ABSTRACT

Bayesian optimization over the latent spaces of deep autoencoder models (DAEs) has recently emerged as a promising new approach for optimizing challenging black-box functions over structured, discrete, hard-to-enumerate search spaces (e.g., molecules). Here the DAE dramatically simplifies the search space by mapping inputs into a continuous latent space where familiar Bayesian optimization tools can be more readily applied. Despite this simplification, the latent space typically remains high-dimensional. Thus, even with a well-suited latent space, these approaches do not necessarily provide a complete solution, but may rather shift the structured optimization problem to a high-dimensional one. In this paper, we propose LOL-BO, which adapts the notion of trust regions explored in recent work on high-dimensional Bayesian optimization to the structured setting. By reformulating the encoder to function as both an encoder for the DAE globally and as a deep kernel for the surrogate model within a trust region, we better align the notion of local optimization in the latent space with local optimization in the input space. LOL-BO achieves as much as 20 times improvement over state-of-the-art latent space Bayesian optimization methods across six real-world benchmarks, demonstrating that improvement in optimization strategies is as important as developing better DAE models.

연구 동기 및 목표

• 분자와 같은 구조적 입력에 대한 베이지안 최적화에서 고차원 잠재 공간의 문제를 해결하기 위해.
• 잠재 공간에서의 국소 최적화와 원래 입력 공간에서의 국소 최적화 간 격차를 해소하기 위해.
• 잠재 공간 모델과 국소 베이지안 최적화 전략을 공동 설계하여 최적화 효율성을 향상시키기 위해.
• 압축된 잠재 공간에서도 고차원 베이지안 최적화 전략의 발전이 필수적임을 입증하기 위해.
• 표현 방식 선택(예: SELFIES)과 공동 학습이 최적화 성능에 미치는 영향을 평가하기 위해.

제안 방법

• LOL-BO는 오토인코더를 신뢰 영역 베이지안 최적화 프레임워크 내에서 전역 인코더이자 깊이 있는 커널로 재구성한다.
• 신뢰 영역 가정에 부합하는 잠재 공간의 정렬을 향상시키기 위해 딥 오토인코더와 희소 가우시안 프로세스 대체 모델에 대해 공동 변분 추론을 수행한다.
• 최적화 성능 향상을 위해 SELFIES 문자열 표현을 기반으로 한 트랜스포머 아키텍처를 사용한다.
• 잠재 공간에서 트러스터럽 베이지안 최적화(TuRBO 등)를 적용하며, 인코더의 국소 행동이 잘 근사되는 영역에 국한된 국소 최적화를 수행한다.
• 최적화 과정 중 목표 함수 평가를 잠재 공간에 통합함으로써 반감독 학습이 가능해진다.
• 재구성과 커널 계산에 모두 공유 인코더를 사용함으로써 입력 공간과 잠재 공간의 신뢰 영역이 일관성을 유지한다.

실험 결과

연구 질문

• RQ1 구조적 입력의 잠재 공간에 대해 신뢰 영역 베이지안 최적화 전략을 효과적으로 적용할 수 있는가?
• RQ2 잠재 공간 모델과 국소 최적화 전략을 공동 설계하면 사전에 학습된 잠재 공간에서 표준 BO를 사용할 때보다 성능이 향상되는가?
• RQ3 분자 표현 방식 선택(예: SELFIES 대비 JT-VAE)이 잠재 공간 베이지안 최적화 성능에 어떤 영향을 미치는가?
• RQ4 오토인코더와 대체 모델의 공동 학습이 최적화 효율성 향상에 어느 정도 기여하는가?
• RQ5 고차원 베이지안 최적화 방법을 잠재 공간 최적화 맥락에서 의미 있게 적용하고 개선할 수 있는가?

주요 결과

• LOL-BO는 6개의 실제 벤치마크에서 최신 기술 대비 목표 함수 값에 대해 최대 22배 향상된 성능을 기록했다.
• TDC DRD3 도킹 벤치마크에서 LOL-BO는 10배 적은 오라클 쿼리 수로 최고의 랭킹 메서드 성능을 재현하며 뛰어난 샘플 효율성을 보였다.
• 고정된 잠재 공간에서 TuRBO보다 LOL-BO가 최대 22배 뛰어난 성능을 보이며, 잠재 공간과 최적화기의 공동 학습이 핵심임을 입증했다.
• SELFIES 기반 VAE는 JT-VAE 대비 목표 함수 분산을 줄여(표준편차 0.01 대비 0.03) 최적화에 더 안정적인 잠재 공간을 제공한다.
• Guacamol 벤치마크에서 LOL-BO는 표준 LS-BO와 T-LBO 대비 최적화 성능을 20배 향상시켰으며, 최적화 전략의 중요성을 입증했다.
• 절단 실험 결과, DAE와 대체 모델의 공동 학습이 성능 향상에 크게 기여하며, SELFIES VAE는 더 뛰어난 안정성과 낮은 노이즈를 가진 복원된 목표 함수 값을 제공함을 확인했다.