[논문 리뷰] Gaussian Process Molecule Property Prediction with FlowMO

Henry B. Moss, Ryan‐Rhys Griffiths|arXiv (Cornell University)|2020. 10. 02.

Computational Drug Discovery Methods참고 문헌 41인용 수 25

한 줄 요약

FlowMO는 Tanimoto 및 문자열 커널을 사용한 가우시안 프로세스를 활용한 분자 성질 예측을 위한 오픈소스 파이썬 라이브러리로, 잘 校정된 불확실성 추정을 가능하게 한다. 이는 소규모 데이터셋에서 딥 러닝 모델과 유사한 예측 성능를 달성하면서도, 특히 신약 개발의 주요 응용 분야인 활성 학습과 베이지안 최적화에서 뛰어난 불확실성 校정 성능을 제공한다.

ABSTRACT

We present FlowMO: an open-source Python library for molecular property prediction with Gaussian Processes. Built upon GPflow and RDKit, FlowMO enables the user to make predictions with well-calibrated uncertainty estimates, an output central to active learning and molecular design applications. Gaussian Processes are particularly attractive for modelling small molecular datasets, a characteristic of many real-world virtual screening campaigns where high-quality experimental data is scarce. Computational experiments across three small datasets demonstrate comparable predictive performance to deep learning methods but with superior uncertainty calibration.

연구 동기 및 목표

• 소규모이지만 고질적인 데이터셋이 일반적인 초기 단계의 신약 개발에서 신뢰할 수 있는 불확실성 정량화 문제를 해결하기 위해.
• GPflow와 RDKit를 사용하여 분자 표현 방식(예: SMILES 및 피어프린트)과 가우시안 프로세스를 통합한 사용자 친화적이고 오픈소스 라이브러리 개발을 위해.
• 기본 베이지안 신경망 및 민감한 신경 과정과 비교하여 기준 분자 데이터셋에서 가우시안 프로세스의 불확실성 校정 성능를 평가하기 위해.
• 잘 校정된 예측 분포를 통해 베이지안 최적화 및 활성 학습의 효율적 적용을 가능하게 하기 위해.

제안 방법

• FlowMO는 각각 ECFP 피어프린트와 SMILES 문자열 간의 유사도를 측정하기 위해 Tanimoto 커널과 부분 문자열 문자열 커널(SSK)을 구현한다.
• 정확한 추론을 사용하는 가우시안 프로세스를 통해 분자 성질에 대한 평균과 분산을 포함한 예측 분포를 생성한다.
• 커널 평가의 스케일러빌리티를 향상시키기 위해 GPU 가속을 활용한다.
• 불확실성 校정은 교차검증 예측 p-값 점수 함수를 통해 평가되며, C(q) = q는 완벽한 校정을 의미한다.
• 모델은 20개의 랜덤 80:10:10 분할(단, GPs는 90:10 사용)에서 훈련 및 평가되며, BNN 및 ANP 기준선의 초모수는 격자 탐색을 통해 최적화된다.
• 잘 校정된 불확실성 추정을 통해 베이지안 최적화 방법의 직접 적용을 지원한다.

실험 결과

연구 질문

• RQ1 가우시안 프로세스의 불확실성 校정 성능가 Bayesian 신경망 및 민감한 신경 과정과 비교해 볼 때 어떻게 되는가?
• RQ2 Tanimoto 및 문자열 커널을 사용한 가우시안 프로세스가 소규모 분자 데이터셋에서 경쟁 가능한 예측 성능를 달성할 수 있는가?
• RQ3 분자 표현 방식의 선택(SMILES 대 피어프린트)이 예측 성능 및 불확실성 校정에 상당한 영향을 미치는가?
• RQ4 더 나은 불확실성 추정 덕분에 FlowMO는 분자 설계에서 더 신뢰할 수 있는 활성 학습과 베이지안 최적화를 가능하게 할 수 있는가?

주요 결과

• SSK GP(즉, SMILES 문자열 사용)는 Photoswitch 및 FreeSolv 데이터셋에서 TK GP(즉, 피어프린트 사용)를 초월하여, 용해도 및 수화 자유 에너지 예측에 있어 SMILES 표현이 효과적임을 시사한다.
• ESOL 데이터셋에서는 TK GP가 가장 뛰어난 성능를 기록하여, 수용성 예측에 있어 피어프린트 표현이 더 정보가 많다는 것을 시사한다.
• Photoswitch 및 FreeSolv 데이터셋에서 SSK GP는 거의 완벽한 校정 성능(C(q) ≈ q)을 달성하여, BNN 및 ANP 대비 뛰어난 불확실성 校정 성능를 입증하였다.
• FreeSolv 데이터셋에서 SSK GP는 RMSE 1.29 ± 0.22를 기록하여, MoleculeNet 기준선(1.15 ± 0.02)과 유사한 성능를 보였으며, ANP(2.65 ± 0.47)보다 유의미하게 뛰어났다.
• 확장된 SMILES-X 모델은 FreeSolv에서 모든 모델을 초월하는 성능(RMSE 0.81 ± 0.22)을 기록했지만, 상당한 계산 비용을 수반하여 성능와 효율성 사이의 상충 관계를 드러냈다.
• TK GP는 FreeSolv에서 RMSE 1.85 ± 0.10을 기록하여, BNN(1.92 ± 0.20) 및 ANP(2.65 ± 0.47)를 모두 앞서며 더 뛰어난 예측 정확도와 校정 성능를 입증하였다.