[논문 리뷰] A COLD Approach to Generating Optimal Samples

Omar Mahmood, José Miguel Hernández-Lobato|arXiv (Cornell University)|2019. 05. 23.

Computational Drug Discovery Methods참고 문헌 11인용 수 6

한 줄 요약

이 논문은 훈련 데이터 잠재변수의 가우시안 믹스처 모델(GMM)을 사용하여 잠재공간 내 고밀도 영역을 식별하고, 이로써 고성능, 다각도, 새로운 이산 샘플을 생성할 수 있도록 제약 조건이 부여된 글로벌 최적화 방법인 COLD을 제안한다. MNIST 및 ChEMBL에서 COLD는 약물 유사성 점수 기준으로 훈련 데이터 최대치를 충족하거나 초월하는 최적의, 다양한, 화학적으로 타당한 분자를 생성한다.

ABSTRACT

Optimising discrete data for a desired characteristic using gradient-based methods involves projecting the data into a continuous latent space and carrying out optimisation in this space. Carrying out global optimisation is difficult as optimisers are likely to follow gradients into regions of the latent space that the model has not been exposed to during training; samples generated from these regions are likely to be too dissimilar to the training data to be useful. We propose Constrained Optimisation with Latent Distributions (COLD), a constrained global optimisation procedure to find samples with high values of a desired property that are similar to yet distinct from the training data. We find that on MNIST, our procedure yields optima for each of three different objectives, and that enforcing tighter constraints improves the quality and increases the diversity of the generated images. On the ChEMBL molecular dataset, our method generates a diverse set of new molecules with drug-likeness scores similar to those of the highest-scoring molecules in the training data. We also demonstrate a computationally efficient way to approximate the constraint when evaluating it exactly is computationally expensive.

연구 동기 및 목표

• 이산 데이터에서 기울기 기반 최적화의 한계를 해결하기 위해, 특히 훈련되지 않은 잠재영역에서 일반화 능력이 떨어져 기존 훈련 샘플의 개선에 국한되는 문제를 해결한다.
• 잠재공간의 잘 훈련된 영역에 제약을 두어, 훈련 데이터와는 다를 바 있는 새로운, 고성능의 샘플을 생성할 수 있는 글로벌 최적화를 가능하게 한다.
• 특히 고차원 데이터에서 효율적인 잠재공간 밀도 근사화를 위한 계산적으로 효율적인 방법을 개발한다.
• 잠재공간 내 최소 밀도 기준을 설정하여 생성된 샘플이 고성능이면서도 화학적 또는 구조적으로 타당함을 보장한다.
• 고밀도 잠재공간 영역에서의 제약 조건이 부여된 최적화가 여러 데이터셋(MNIST 및 ChEMBL 포함)에서 다양하고 고품질의 샘플을 생성함을 입증한다.

제안 방법

• VAE와 예측 헤드를 함께 훈련시켜 예측 변동형 자동차오토인코더(PVAE)를 구축하여 데이터를 연속적인 잠재공간으로 매핑하고 목표 성질을 예측한다.
• 모든 훈련 데이터 포인트의 인코딩된 평균과 분산에서 가우시안 믹스처 모델(GMM)을 구성하여 잘 훈련된 잠재영역의 분포를 표현한다.
• 밀도 임계값 η를 사용하여 후보 잠재점의 필터링을 수행하고, GMM의 고밀도 영역에만 포함된 점을 유지함으로써 생성된 샘플이 훈련 데이터와 유사하도록 보장한다.
• 예측된 목표 점수 기반 상위-t 후보 점을 선택하고, 이들 점에서 국소 기울기 기반 최적화를 수행하여 고성능 샘플을 찾는다.
• 특히 고차원 공간에서의 계산 효율성을 위해 HNSW를 사용한 k-최근접 이웃(k-NN)을 활용해 GMM 밀도를 근사한다.
• 최종 최적화된 잠재점들을 VAE 디코더를 사용해 복원하고, 진짜 목표 성질을 평가하여 전역 최적해를 식별한다.

실험 결과

연구 질문

• RQ1 VAE의 잠재공간에서 제약 조건이 부여된 최적화가 훈련 데이터와 유사하면서도 새로운, 고성능의 이산 샘플을 생성할 수 있는가?
• RQ2 잠재공간에 GMM 기반 밀도 제약 조건을 적용할 경우, 제약 없음 또는 국소 최적화와 비교해 생성 샘플의 품질과 다양성에 어떤 영향을 미치는가?
• RQ3 밀도 임계값 η를 변화시킬 경우, 생성 샘플의 점수, 다양성, 타당성 측면에서 최적화 결과에 어떤 영향을 미치는가?
• RQ4 GMM 밀도의 k-NN 근사화가 고차원 잠재공간에서 스케일러블하고 효율적인 글로벌 최적화를 가능하게 하는가?
• RQ5 COLD는 훈련 데이터에서 가장 높은 수준의 약물 유사성 점수를 기록한 샘플과 유사한 점수를 가지면서도, 구조적으로 새로운 분자를 얼마나 잘 생성할 수 있는가?

주요 결과

• MNIST에서 COLD는 세 가지 다른 목표에 대해 최적의 이미지를 성공적으로 생성하였고, 더 강한 제약 조건이 샘플 품질과 다양성을 향상시켰다.
• ChEMBL 데이터셋에서 COLD는 QED 점수 기준으로 훈련 데이터 최고치(0.9483)를 충족시키는 다양한 새로운 분자를 생성하였고, 생성된 분자 중 어느 것도 훈련 세트에 포함되어 있지 않았다.
• 밀도 임계값 η를 -1000에서 -5000으로 감소시켜도 최고 점수 분자가 변화하지 않았으며, 이는 느슨한 제약 조건 하에서도 단일 전역 최적해로 수렴하고 있음을 시사한다.
• η가 감소함에 따라 일반적으로 복원에 성공한 분자의 비율이 감소했지만, 고밀도 영역(b=1)에서 샘플링할 경우를 제외하고는 그러한 경향이 관찰되었다. 이는 저밀도 점들이 복원에 있어 더 신뢰할 수 없음을 시사한다.
• 이 방법은 강건성을 보였다: 동일한 제약 조건으로 여러 번 최적화를 수행했을 때 동일한 최적해로 수렴하였으며, 이는 잠재공간 내 예측 표면에 날카로운 局부 최적해가 존재할 수 있음을 시사한다.
• HNSW를 사용한 k-NN 근사화를 통해 GMM 밀도 평가를 효율적으로 수행할 수 있었고, 이는 대규모 훈련 세트와 고차원 잠재공간에서도 스케일러블한 최적화를 가능하게 하였다.