[논문 리뷰] GAUCHE: A Library for Gaussian Processes in Chemistry

Ryan‐Rhys Griffiths, Leo Klarner외 25명|arXiv (Cornell University)|2022. 12. 06.

Mass Spectrometry Techniques and Applications인용 수 33

한 줄 요약

GAUCHE는 분자 표현(지문, 문자열, 그래프)에 대해 GPU 가속 Gaussian 프로세스 커널을 제공하며 화학에서 회귀, 불확실성 정량화, 그리고 베이지안 최적화를 지원합니다.

ABSTRACT

We introduce GAUCHE, a library for GAUssian processes in CHEmistry. Gaussian processes have long been a cornerstone of probabilistic machine learning, affording particular advantages for uncertainty quantification and Bayesian optimisation. Extending Gaussian processes to chemical representations, however, is nontrivial, necessitating kernels defined over structured inputs such as graphs, strings and bit vectors. By defining such kernels in GAUCHE, we seek to open the door to powerful tools for uncertainty quantification and Bayesian optimisation in chemistry. Motivated by scenarios frequently encountered in experimental chemistry, we showcase applications for GAUCHE in molecular discovery and chemical reaction optimisation. The codebase is made available at https://github.com/leojklarner/gauche

연구 동기 및 목표

• Gaussian 프로세스를 사용하여 분자와 화학 반응에 대한 확률적 모델링 가능성 확보.
• 구조화된 분자 입력(그래프, 문자열, 지문)에 대해 GPU 기반 커널 제공.
• GP/BO 도구를 기존 라이브러리(GPyTorch, BoTorch, RDKit)와 연동하여 화학에서 불확실성 정량화 및 최적화를 촉진.
• 다양한 분자 데이터셋에서 회귀, UQ, 베이지안 최적화 성능 평가.

제안 방법

• 분자 표현(지문, 조각, SMILES/SELFIES 문자열, 그래프)에 대해 GPU 기반의 커널 기반 GP 회귀 구현.
• 마진 가능도(marginal likelihood)를 통한 학습 가능한 하이퍼파라미터를 포함한 Tanimoto, SMILES 문자열 커널, GraKel 그래프 커널 등 문자열, 지문, 그래프 커널 도입.
• 스케일러블한 GP 학습 및 베이지안 최적화 워크플로우를 위해 GPyTorch 및 BoTorch와의 통합.
• 분자 특성 예측 데이터셋(Photoswitch, ESOL, FreeSolv, Lipophilicity) 및 반응 수율(Buchwald–Hartwig, Suzuki–Miyaura)에서 벤치마크.
• NLPD 및 관련 지표를 사용한 불확실성 정량화 평가 및 베이지안 신경망 및 딥 앙상블과의 비교.

실험 결과

연구 질문

• RQ1 다양한 화학 작업에서 어떤 분자 표현(지문, 문자열, 그래프)과 해당 커널이 가장 우수한 회귀 정확도를 제공하는가?
• RQ2 GAUCHE의 커널이 분자 데이터에 대해 보정된 불확실성 추정치를 얼마나 잘 제공하는가?
• RQ3 GAUCHE 커널을 사용한 GP 기반 베이지안 최적화가 초저 데이터 분자 발견 작업에서 무작위 탐색보다 우수한가?
• RQ4 Photoswitch 및 반응 수율에 대해 그래프, 문자열, 지문 커널 간 BO 성능 차이는 무엇인가?
• RQ5 화학 공간에서 표현-작업 결합이 BO 및 UQ 성능에 미치는 영향은?

주요 결과

• GP 회귀 성능은 데이터셋 및 표현에 따라 작업별로 다름.
• 문자열 및 그래프 커널이 특정 특성 예측 작업에서 지문 기반 커널보다 우수할 수 있음.
• 불확실성 추정(NLPD)은 일반적으로 데이터셋 간 회귀 정확도와 상관 관계가 있음.
• GAUCHE 커널을 사용한 베이지안 최적화가 초저 데이터 구간(예: photoswitch 데이터셋)에서 무작위 탐색보다 우수함.
• BO 성능은 회귀/UQ 품질과 일치: 더 나은 회귀/UQ는 특정 화학 작업에서 더 강한 BO 성능으로 이어질 수 있음.