[논문 리뷰] Multi-Objective Latent Space Optimization of Generative Molecular Design Models

A N M Nafiz Abeer, Nathan M. Urban외 3명|arXiv (Cornell University)|2022. 03. 01.

Computational Drug Discovery Methods참고 문헌 51인용 수 11

한 줄 요약

이 논문은 다중 목적 잠재공간 최적화(Multi-objective Latent Space Optimization, LSO) 방법을 제안하여, 페레토 효율성 기반으로 반복적으로 학습 데이터의 가중치를 재조정함으로써 샘플링 효율성 향상과 다수의 원하는 성질을 갖는 분자의 발견을 향상시킨다. 이 방법은 약물 유사성, 합성 가능성, DRD2 억제와 같은 복잡한 분자 목표를 최적화하는 데 있어 기준 방법보다 유효성과 성질 간 트레이드오프 품질에서 뛰어난 성능을 보인다.

ABSTRACT

Molecular design based on generative models, such as variational autoencoders (VAEs), has become increasingly popular in recent years due to its efficiency for exploring high-dimensional molecular space to identify molecules with desired properties. While the efficacy of the initial model strongly depends on the training data, the sampling efficiency of the model for suggesting novel molecules with enhanced properties can be further enhanced via latent space optimization. In this paper, we propose a multi-objective latent space optimization (LSO) method that can significantly enhance the performance of generative molecular design (GMD). The proposed method adopts an iterative weighted retraining approach, where the respective weights of the molecules in the training data are determined by their Pareto efficiency. We demonstrate that our multi-objective GMD LSO method can significantly improve the performance of GMD for jointly optimizing multiple molecular properties.

연구 동기 및 목표

• 생성 모델을 사용한 고차원 화학적 공간에서의 비효율적인 분자 성질 최적화 문제를 해결하기 위해.
• 다중 원하는 성질을 갖는 새로운 분자를 발견하는 데 있어 변분 오토인코더(Variational Autoencoders, VAEs)의 샘플링 효율성을 향상시키기 위해.
• 표준 재학습의 한계를 극복하기 위해 다중 목적 최적화에 페레토 효율성을 통합한 데이터 가중치 부여 방식을 도입하기 위해.
• 약물 유사성, 합성 가능성, 타겟 억제(예: DRD2)와 같은 상충되는 분자 성질을 효과적으로 공동 최적화하기 위해.
• 다양한 목표에서 유효하고 높은 성능을 보이는 분자를 생성하는 데 있어 기준 방법보다 우수한 성능을 입증하기 위해.

제안 방법

• 이 방법은 다중 분자 성질에 대한 페레토 효율성 기반으로 학습 데이터 샘플의 가중치를 반복적으로 재조정하는 반복적 가중치 재학습 전략을 사용한다.
• 페레토 효율성은 약물 유사성(QED), 합성 가능성(SAS), 천연물 유사성(NP), DRD2 억제 확률의 네 가지 목표에 대해 분자를 평가하여 결정된다.
• 재가중 과정은 다중 목표 공간에서 지배당하지 않는 분자들을 우선순위로 삼아, 모델이 잠재공간의 고품질 영역에 집중하도록 한다.
• 사전 학습된 JT-VAE는 가중치가 부여된 데이터셋을 사용하여 미세조정되며, 손실 함수는 각 재학습 에포크 동안 페레토 효율성 있는 분자들을 강조하도록 조정된다.
• 최적화 과정은 다수의 반복을 거쳐 점차적으로 잠재공간을 정교화하여 목표 간 개선된 트레이드오프를 갖는 분자를 생성하도록 한다.
• DRD2 활성 예측은 Morgan 분자 지문(반지름 3)을 사용한 사전 학습된 SVM 분류기를 통해 수행되며, 그 출력은 다중 목적 최적화에서 연속적인 성질 점수로 사용된다.

실험 결과

연구 질문

• RQ1 페레토 효율성 기반 반복적 재가중이 다수의 원하는 성질을 갖는 분자를 발견하는 데 있어 생성적 분자 설계 모델의 성능 향상에 기여하는가?
• RQ2 제안된 다중 목적 LSO 방법은 분자 유효성과 성질 트레이드오프 품질 측면에서 표준 재학습 및 기준 최적화 전략과 비교해 어떻게 성능을 냅니다?
• RQ3 이 방법은 높은 DRD2 억제 확률을 갖는 분자를 발견하는 데 얼마나 기여하며, 동시에 유사한 약물 유사성과 합성 가능성도 유지합니까?
• RQ4 재가중 전략에 페레토 효율성을 통합할 경우, 무작위 또는 균일 가중치 샘플링보다 더 다양하고 고품질의 분자 후보를 생성하는가?
• RQ5 특히 상충되는 성질(예: 높은 QED 대 높은 SAS)이 존재할 경우, 이 방법은 다양한 분자 성질 목표에 대해 얼마나 강건한가?

주요 결과

• 제안된 다중 목적 LSO 방법은 ZINC 데이터셋에서 표준 재학습 대비 평균 페레토 프론트 품질에서 22.5% 향상된 성과를 기록했다.
• 100회 반복 후 모델은 94.3%의 유효한 분자를 생성했으며, 유사한 조건에서 기준 방법이 생성한 68.7% 유효 분자보다 뚜렷이 뛰어난 성능을 보였다.
• 모델는 중앙값 기준 DRD2 억제 확률 0.89를 기록했으며, 기준 방법은 0.67이었고, QED는 0.78로 높고 SAS는 3.2로 낮게 유지되었다.
• 이 방법이 생성한 페레토 프론트는 기준 검색에서 89%의 분자를 지배하여 네 가지 목표 모두에서 뛰어난 트레이드오프 성능을 보였다.
• 반복적 재가중 과정은 목표 DRD2 점수 0.8에 도달하기 위한 세대 수를 기준으로 비가중 재학습 대비 37% 더 빠른 수렴 속도를 보였다.
• 이 방법은 강력한 일반화 능력을 보였으며, 여러 독립적인 실행과 다양한 초기 모델 가중치에서도 높은 성능을 유지하여 하이퍼파rameter 및 초기화 변화에 대해 강건함을 입증했다.