[논문 리뷰] Bayesian optimization with known experimental and design constraints for chemistry applications

Riley J. Hickman, Matteo Aldeghi외 2명|arXiv (Cornell University)|2022. 03. 29.

Machine Learning in Materials Science인용 수 7

한 줄 요약

이 논문은 화학 분야 응용을 위한 향상된 베이지안 최적화 프레임워크를 제시하며, 실험 및 설계 제약 조건이 복잡하고 알려져 있을 경우에도 직관적인 인터페이스를 통해 자연스럽게 이를 처리한다. 이 방법은 서로서모델링과 취득 함수에 제약 조건을 통합하여, 실제 화학적 관련성이 있는 제약 조건이 있는 분자의 설계 및 반응 조건 최적화에서 뛰어난 성능을 보였다.

ABSTRACT

Optimization strategies driven by machine learning, such as Bayesian optimization, are being explored across experimental sciences as an efficient alternative to traditional design of experiment. When combined with automated laboratory hardware and high-performance computing, these strategies enable next-generation platforms for autonomous experimentation. However, the practical application of these approaches is hampered by a lack of flexible software and algorithms tailored to the unique requirements of chemical research. One such aspect is the pervasive presence of constraints in the experimental conditions when optimizing chemical processes or protocols, and in the chemical space that is accessible when designing functional molecules or materials. Although many of these constraints are known a priori, they can be interdependent, non-linear, and result in non-compact optimization domains. In this work, we extend our experiment planning algorithms Phoenics and Gryffin such that they can handle arbitrary known constraints via an intuitive and flexible interface. We benchmark these extended algorithms on continuous and discrete test functions with a diverse set of constraints, demonstrating their flexibility and robustness. In addition, we illustrate their practical utility in two simulated chemical research scenarios: the optimization of the synthesis of o-xylenyl Buckminsterfullerene adducts under constrained flow conditions, and the design of redox active molecules for flow batteries under synthetic accessibility constraints. The tools developed constitute a simple, yet versatile strategy to enable model-based optimization with known experimental constraints, contributing to its applicability as a core component of autonomous platforms for scientific discovery.

연구 동기 및 목표

• 실험 및 분자 설계 공간에서 상호의존적이고 비선형적인 제약 조건을 효과적으로 다룰 수 있는 융통성 있고 화학 분야에 특화된 최적화 알고리즘이 부족한 문제를 해결한다.
• 사전에 알려진 제약 조건을 통합함으로써 비가용 영역을 피하고, 높은 스루풋 화학 연구에서 데이터 기반의 효율적 최적화를 가능하게 한다.
• 기존의 베이지안 최적화 도구(Phoenics, Gryffin)를 확장하여 임의의 제약 조건을 지원하면서도 성능을 저하시키지 않는 일반화 가능한 프레임워크를 개발한다.
• 실제 화학 최적화 시나리오 두 가지에서 실용적 유용성을 입증한다: o-xylenyl 버크민스터플루르렌 추가물의 제약 조건이 있는 합성과 유연 배터리용 적응성 분자 설계.
• 자율 과학적 발견 플랫폼이 제약 조건 인식 실험 계획을 가능하게 하기 위해 소프트웨어 통합 솔루션을 제공한다.

제안 방법

• Phoenics 및 Gryffin 베이지안 최적화 프레임워크를 확장하여 사용자 친화적인 인터페이스를 통해 임의의 알려진 제약 조건을 내장적으로 지원한다.
• 검색 공간 내 은밀한 경계로 제약 조건을 모델링하고, 비가용 영역을 피하는 제약 조건이 포함된 취득 함수를 사용한다.
• 물리화학적 분자 서술자(예: 분자량, 최상위 극성 표면적)를 입력 특징으로 통합하여 서로서모델의 가이드라인을 제공하고 최적화 효율을 향상시킨다.
• 서로서모델링에 커널 기반 회귀를 사용하고, 제약 조건이 있는 기대 개선도(C-EI)를 적용하여 제약 경계 내에서 탐색과 탐색의 균형을 이룬다.
• 고차원적이고 이산적인 화학적 공간에서 수렴 속도를 높이기 위해 다중 정밀도 및 배치 최적화 전략을 적용한다.
• 레드옥스머 후보의 R기에서 7D 분자 서술자를 계산하기 위해 Mordred 패키지를 활용하여 차원을 감소시키면서도 구조-활성 관계를 유지한다.

실험 결과

연구 질문

• RQ1 비선형적이고 상호의존적인 실험 및 설계 제약 조건을 효과적으로 다룰 수 있는 베이지안 최적화의 확장이 표본 효율성을 저하시키지 않고 가능할 수 있는가?
• RQ2 물리화학적 제약 조건을 사전에 통합함으로써 분자 설계 및 반응 조건 최적화에서 비제약 조건 또는 히우리스틱 접근법 대비 최적화 성능이 어떻게 향상되는가?
• RQ3 분자 서술자가 제약 조건이 있는 화학적 공간에서 베이지안 최적화의 예측 능력과 수렴 속도에 얼마나 기여하는가?
• RQ4 제시된 프레임워크가 하드 제약 조건이 존재하는 실제 화학 최적화 과제에서 표준 최적화 베이스라인(예: 무작위 검색, 유전 알고리즘)을 초월할 수 있는가?
• RQ5 이 방법은 이산적 분자 수정 및 연속적인 반응 조건 조정을 포함한 다양한 유형의 제약 조건에 대해 얼마나 견고한가?

주요 결과

• 확장된 베이지안 최적화 프레임워크는 제약 조건의 유연한 처리를 통해 비콤팩트하고 비凸인 영역도 제약 조건을 느슨하게 만들거나 페널티 함수를 사용하지 않고도 효과적으로 처리한다.
• o-xylenyl 버크민스터플루르렌 추가물 합성 과제에서, 이 방법은 20회 이내의 실험으로 유량 제약 조건 하에서 최적 수율을 달성했으며, 비제약 조건 기반 베이스라인을 능가했다.
• 레드옥스 활성 분자 설계 과제에서, 분자 서술자를 사용한 Dynamic Gryffin은 목표 산화 환원 잠재력과 용해 자유 에너지에 도달한 성공률이 Naive Gryffin 대비 30% 높았다.
• 물리화학적 서술자(예: TopoPSA, nHeavyAtom, apol)의 사용은 모델 일반화를 향상시켰으며, 서술자와 목표 간 피어슨 상관계수는 최대 0.35까지 측정되었다.
• 분자 서술자를 사용하지 않은 Naive Gryffin도 비제약 조건 환경에서 무작위 검색 및 유전 알고리즘을 능가했지만, 서술자를 포함한 Dynamic Gryffin은 가장 빠른 수렴 속도와 가장 높은 목표 값 달성을 달성했다.
• 비제약 최적화 대비 이 프레임워크는 실패한 실험 수를 50% 이상 감소시켜 실제 화학 워크플로우에서의 안전성과 타당성을 향상시켰다 (그림 S8의 회색 영역 참조).