[논문 리뷰] BOSS: Bayesian Optimization over String Spaces

Henry B. Moss, Daniel Beck외 3명|arXiv (Cornell University)|2020. 10. 02.

Machine Learning and Algorithms참고 문헌 28인용 수 20

한 줄 요약

이 논문은 원시 문자열을 직접 다루는 베이지안 최적화 프레임워크인 BOSS를 소개한다. 이는 문자열 커널 기반 가우시안 프로세스를 사용하여 잠재 공간 매핑이 필요 없도록 한다. 문맥 자유 문법에 의해 제약되는 문자열 공간과 같은 제약 조건이 있는 문자열 공간에서, 유전 알고리즘 기반의 획득 함수 최적화와 문자열 커널을 조합함으로써, 대규모 데이터나 초모수 조정이 거의 필요 없는 VAE 기반 기준보다 뛰어난 최적화 성능을 달성한다.

ABSTRACT

This article develops a Bayesian optimization (BO) method which acts directly over raw strings, proposing the first uses of string kernels and genetic algorithms within BO loops. Recent applications of BO over strings have been hindered by the need to map inputs into a smooth and unconstrained latent space. Learning this projection is computationally and data-intensive. Our approach instead builds a powerful Gaussian process surrogate model based on string kernels, naturally supporting variable length inputs, and performs efficient acquisition function maximization for spaces with syntactical constraints. Experiments demonstrate considerably improved optimization over existing approaches across a broad range of constraints, including the popular setting where syntax is governed by a context-free grammar.

연구 동기 및 목표

• 기존의 베이지안 최적화(BO) 방법이 연속적인 잠재 공간으로의 비용이 많이 들고 데이터 집약적인 인코딩에 의존하는 데서 비롯되는 한계를 해결하기 위해.
• 문자열에 대한 BO에서 변분 오토인코더(VAE)나 고정 길이 벡터 표현(예: n-gram의 집합)이 필요 없도록 하기 위해.
• 이산적이고 문법적으로 제약이 있는 문자열 공간에서 효율적인 획득 함수 최적화 전략을 개발하기 위해.
• 비연속 부분열 유사성을 캐릭터라이즈하는 커널 기반의 서rogate 모델을 사용하여 원시 문자열을 직접 최적화할 수 있도록 하기 위해.
• 다양한 문자열 제약 문제, 예를 들어 분자 및 유전자 설계에서 더 뛰어난 최적화 효율성과 강건성을 입증하기 위해.

제안 방법

• 변동 길이 문자열 간의 유사성을 공유된 비연속 부분열을 통해 측정하기 위해 컨volutional 문자열 커널 기반의 문자열 전용 커널(SSK)을 제안한다.
• SSK를 커널 함수로 사용하는 가우시안 프로세스(GP) 서rogate 모델을 적용하여 원시 문자열 입력에 대한 목적 함수를 부드럽게 모델링할 수 있도록 한다.
• 문맥 자유 문법으로 정의된 이산적이고 문법적으로 제약이 있는 문자열 공간에서의 획득 함수 최적화를 위해 특화된 일련의 유전 알고리즘을 도입한다.
• 대규모 비지도 사전 훈련이 필요 없도록, 몇 차례의 함수 평가만으로 SSK의 두 초모수를 정밀하게 조정한다.
• SSK의 내재된 특징 공간을 시각화하기 위해 커널 주성분 분석(KPCA)을 사용하며, 이는 VAE 기반 잠재 공간보다 목적 함수의 부드러움과 더 잘 일치함을 보여준다.
• SSK-GP 모델을 표준 BO 루프에 통합하여 다중 정밀도, 다목적, 배치 기반 BO로의 확장도 지원한다.

실험 결과

연구 질문

• RQ1 소규모 데이터로도 기존의 VAE 기반 잠재 공간 매핑보다 문자열 커널 기반 가우시안 프로세스 서rogate 모델이 베이지안 최적화에서 더 나은 성능을 내는가?
• RQ2 이산적이고 문법적으로 제약이 있는 문자열 공간 탐색에 대해 유전 알고리즘 기반의 획득 함수 최적화 전략은 얼마나 효과적인가?
• RQ3 오직 두 개의 조정 가능한 매개변수만을 가진 문자열 커널이 분자 및 유전자 설계 과제에서 복잡한 목적 함수를 얼마나 잘 캐릭터라이즈할 수 있는가?
• RQ4 SSK를 사용해 원시 문자열을 직접 최적화하면 VAE 기반 접근 방식에서 흔히 발생하는 '사각지대'와 일반화 성능 열악함 문제를 피할 수 있는가?
• RQ5 VAE로 학습된 잠재 공간보다 SSK-GP 모델이 목적 함수의 경관에서 부드러움을 더 잘 유지하는가?

주요 결과

• SSK-GP 모델은 분자 설계를 위한 SMILES 문자열 최적화에서 VAE 기반 기준보다 뛰어난 성능을 보이며, 제약 조건이 있는 후보 집합 내에서 더 나은 탐색 성능을 달성한다.
• 이 프레임워크는 고정 길이 인코딩이 필요 없이, 문맥 자유 문법에 의해 제약되는 변수 길이 문자열에 대해 성공적으로 최적화를 수행한다.
• SSK에서 두 개의 커널 매개변수만 조정이 필요하며, 소수의 함수 평가로도 신뢰성 있게 추정할 수 있어 데이터 의존성이 크게 감소한다.
• 유전 알고리즘이 이산적 문자열 공간에서 획득 함수 최적화에 효과적으로 기여하여, 복잡한 문법 규칙 하에서도 효율적인 탐색이 가능하다.
• KPCA 시각화 결과, SSK의 특징 공간이 목적 함수의 부드러움을 VAE 기반 잠재 공간보다 더 잘 반영함을 보여주며, VAE의 잠재 공간은 진정한 목적 함수 경관과 일치하지 못함을 확인한다.
• 유전 알고리즘이 항상 유효한 문자열만 탐색하므로, VAE에서 흔히 발생하는 '사각지대'와 잘못된 문자열 디코딩 문제를 피할 수 있다.