[논문 리뷰] Combining Latent Space and Structured Kernels for Bayesian Optimization over Combinatorial Spaces

Aryan Deshwal, Janardhan Rao Doppa|arXiv (Cornell University)|2021. 11. 01.

Advanced Multi-Objective Optimization Algorithms인용 수 8

한 줄 요약

LADDER는 깊이 있는 생성 모델의 잠재 공간 표현과 복합 구조적 구조체(예: 분자, 그래프)에 대한 구조적 커널을 융합한 새로운 베이지안 최적화 프레임워크를 제안한다. 이는 구조-결합 커널을 통해 잠재 공간 표현과 구조적 특징을 통합한 하이브리드 대체 모델을 제공하며, 소규모 데이터 설정에서 기존의 잠재 공간 베이지안 최적화보다 유의미하게 뛰어난 표본 효율성과 최적화 정확도를 달성한다. 실제 분자 및 MOF 설계와 같은 벤치마크에서 검증되었다.

ABSTRACT

We consider the problem of optimizing combinatorial spaces (e.g., sequences, trees, and graphs) using expensive black-box function evaluations. For example, optimizing molecules for drug design using physical lab experiments. Bayesian optimization (BO) is an efficient framework for solving such problems by intelligently selecting the inputs with high utility guided by a learned surrogate model. A recent BO approach for combinatorial spaces is through a reduction to BO over continuous spaces by learning a latent representation of structures using deep generative models (DGMs). The selected input from the continuous space is decoded into a discrete structure for performing function evaluation. However, the surrogate model over the latent space only uses the information learned by the DGM, which may not have the desired inductive bias to approximate the target black-box function. To overcome this drawback, this paper proposes a principled approach referred as LADDER. The key idea is to define a novel structure-coupled kernel that explicitly integrates the structural information from decoded structures with the learned latent space representation for better surrogate modeling. Our experiments on real-world benchmarks show that LADDER significantly improves over the BO over latent space method, and performs better or similar to state-of-the-art methods.

연구 동기 및 목표

• 소규모 데이터 설정에서 잠재 공간 기반의 베이지안 최적화 성능이 열 劣하는 문제를 해결하기 위해, 목표 블랙박스 함수에 대한 유도적 편향이 부족한 대체 모델의 문제를 해결한다.
• 학습된 잠재 표현과 복합 구조적 객체(예: 분자, 그래프)의 구조적 정보를 통합하는 원칙적인 방법을 개발하여 보다 우수한 대체 모델링을 가능하게 한다.
• 깊이 있는 생성 모델의 표현력과 구조적 커널의 유도적 편향을 융합함으로써 조합 최적화 공간에서 효과적인 베이지안 최적화를 가능하게 한다.
• 잠재 공간과 구조적 커널 간의 상호보완성이 최적화 효율성과 정확도 향상에 기여함을 입증한다.
• 다양한 취득 함수를 지원하며, 다목적, 다신뢰도, 제약 조건이 있는 최적화로 자연스럽게 확장 가능한 유연하고 즉시 통합 가능한 프레임워크를 제공한다.

제안 방법

• 비지도 데이터베이스에서 복합 구조체의 연속적인 잠재 공간 표현을 학습하기 위해 깊이 있는 생성 모델(DGM)을 활용한다.
• 잠재 공간 표현과 복합 구조체에서 추출한 구조적 특징(예: 지문, 그래프 커널)을 융합한 새로운 구조-결합 커널을 제안한다.
• 구조-결합 커널을 사용하여 가우시안 프로세스 대체 모델을 구성하며, 이는 평가된 점들에서 미평가 영역으로의 확장을 구조적 유도적 편향을 통해 수행한다.
• 잠재 커널과 구조적 커널의 하이퍼파rameter를 동시에 최적화하는 커널 학습 전략을 도입하여 일반화 성능을 향상시킨다.
• 대체 모델을 베이지안 최적화 루프 내에서 활용하여 취득 함수를 통해 고유용도 후보를 선별하고, 이를 원래의 복합 구조 공간에서 복원 및 평가한다.
• 모든 취득 함수와의 즉시 통합을 지원하며, 다목적, 다신뢰도, 제약 조건 최적화로의 확장이 가능하다.

실험 결과

연구 질문

• RQ1 왜 조합 최적화의 소규모 데이터 설정에서 표준 잠재 공간 기반의 베이지안 최적화가 성능이 열 劣하는가?
• RQ2 잠재 공간 표현과 구조적 커널 특징을 융합하면 대체 모델 정확도와 최적화 효율성이 향상되는가?
• RQ3 제안된 구조-결합 커널은 잠재 공간 또는 구조적 커널만을 사용하는 경우에 비해 수렴 속도와 최종 성능에서 어떻게 비교되는가?
• RQ4 LADDER의 성능는 구조적 커널의 선택에 얼마나 의존하는가? 실무에서 어떻게 최적화할 수 있는가?
• RQ5 LADDER는 분자, 서열, 그래프와 같은 다양한 복합 구조 공간으로 일반화될 수 있으며, 표본 효율성을 유지하는가?

주요 결과

• LADDER는 모든 실제 벤치마크에서 기존의 단순 잠재 공간 베이지안 최적화 방법보다 뚜렷이 뛰어난 성능을 보이며, 더 적은 함수 평가로 더 빠른 수렴과 높은 정확도를 달성한다.
• 15번째 반복에서 LADDER는 평균 성능 2.78 ± 0.26을 기록했고, 지문 기반 베이지안 최적화의 기준선(2.46 ± 0.32)보다 뛰어난 초기 최적화 성능를 보였다.
• 100번째 반복에서 LADDER는 평균 성능 3.25 ± 0.18에 도달했으며, 지문 커널 기반 베이지안 최적화의 최종 성능(3.36 ± 0.23)과 매우 유사한 결과를 보였다. 이는 초기 우위를 가졌음에도 불구하고 성능 향상이 빠르게 이루어졌음을 시사한다.
• 최적화 정확도 향상은 복합 대체 모델의 향상 덕분이며, 이는 아블레이션 연구를 통해 잠재적 특징과 구조적 특징의 조합이 각각 독립적으로 사용하는 것보다 더 효과적임을 입증한다.
• LADDER의 성능는 더 나은 잠재 공간 표현에 따라 확장될 것으로 예상된다. 더 큰 비지도 데이터셋에서 DGM을 훈련하면 지문 기반 방법의 성능을 더 가까이 따라잡거나 초월할 수 있다.
• 이 방법은 커널 선택에 대해 강건하며, 분자 및 MOF를 포함한 다양한 복합 구조 공간으로 일반화되며, 과학적 발견 워크플로우에서 넓은 적용 가능성을 보여준다.