[논문 리뷰] Black Box Recursive Translations for Molecular Optimization

Farhan Damani, Vishnu Sresht외 1명|arXiv (Cornell University)|2019. 12. 21.

Computational Drug Discovery Methods참고 문헌 42인용 수 10

한 줄 요약

이 논문은 블랙박스 순환 번역(Black Box Recursive Translation, BBRT)을 소개한다. BBRT는 생성된 분자를 반복적으로 동일한 분자 번역 모델에 다시 입력함으로써 생물학적 성질을 점진적으로 향상시키는 새로운 추론 방법이다. 순차적 및 그래프 기반 모델에 BBRT를 적용함으로써, 아키텍처의 최소한의 변경으로도 분자 성질 최적화 벤치마크에서 최신 기준 성능을 달성하였으며, 단순한 루프 기반 정련 과정을 통해 뚜렷한 성능 향상을 입증하였다.

ABSTRACT

Machine learning algorithms for generating molecular structures offer a promising new approach to drug discovery. We cast molecular optimization as a translation problem, where the goal is to map an input compound to a target compound with improved biochemical properties. Remarkably, we observe that when generated molecules are iteratively fed back into the translator, molecular compound attributes improve with each step. We show that this finding is invariant to the choice of translation model, making this a "black box" algorithm. We call this method Black Box Recursive Translation (BBRT), a new inference method for molecular property optimization. This simple, powerful technique operates strictly on the inputs and outputs of any translation model. We obtain new state-of-the-art results for molecular property optimization tasks using our simple drop-in replacement with well-known sequence and graph-based models. Our method provides a significant boost in performance relative to its non-recursive peers with just a simple "for" loop. Further, BBRT is highly interpretable, allowing users to map the evolution of newly discovered compounds from known starting points.

연구 동기 및 목표

• 큰 이산 화학 공간 내에서 제약 조건이 없는 분자 성질 최적화 문제를 해결하기 위해.
• 기본 번역 모델을 수정하지 않고도 분자 최적화 성능을 향상시키는 모델 독립적 추론 방법을 개발하기 위해.
• 사용자가 중간 단계의 분자 변환을 검토하고 디버깅할 수 있도록 가능하게 하여 해석 가능하고 사용자 중심의 분자 설계를 실현하기 위해.
• 보조 성질 기반 순차적 출력 순위 매기기를 통해 다중 성질 목표로의 분자 최적화를 확장하기 위해.
• 제한된 레이블이 부여된 데이터를 활용한 순환 정련을 통해 자원이 부족한 환경에서도 일반화 능력과 성능을 향상시키기 위해.

제안 방법

• BBRT는 사전 훈련된 분자 번역 모델의 출력을 동일한 모델에 다시 입력하여 추가 최적화 단계를 수행하는 방식으로 순환적으로 작동한다.
• 이 방법은 '블랙박스' 방식으로 작동한다. 즉, 어떤 번역 모델의 입력과 출력에만 접근하면 되므로 모델에 독립적이다.
• 순환 추론은 목표 성질(예: QED 또는 logP) 기반으로 중간 단계의 분자를 순위 매기는 점수 함수에 의해 이끌린다.
• 보조 성질 점수 함수를 사용하여 어느 화합물이 모델에 다시 입력될지를 이끌어내는 방식으로 다중 성질 최적화를 지원한다.
• 사용자는 어떤 순환 단계에서든 '분자 브레이크포인트'를 적용하여 중간 변환 경로를 검토하고 수동으로 대체 경로를 선택할 수 있다.
• 이 방법은 SMILES, 그래프, 트리 등 다양한 분자 표현 방식과 함께 작동하며, 순차 기반(예: Seq2Seq) 및 그래프 기반 모델 모두와 호환된다.

실험 결과

연구 질문

• RQ1 생성된 분자를 분자 번역 모델에 순환적으로 피드백함으로써, 다양한 모델과 표현 방식에서 목표 생물학적 성질이 일관되게 향상되는가?
• RQ2 비순환 추론 전략과 비교할 때 BBRT는 최적화 성능과 수렴 속도 측면에서 어떻게 성능을 내는가?
• RQ3 사용자가 중간 변환 단계를 제어적으로 검토할 수 있도록 함으로써 BBRT가 얼마나 해석 가능한 분자 설계를 가능하게 하는가?
• RQ4 순환 과정 중 보조 성질 점수 함수를 사용함으로써 BBRT가 다중 성질을 동시에 최적화하는 데 효과적으로 기여하는가?
• RQ5 제한된 레이블이 부여된 훈련 쌍이 있는 자원이 부족한 환경에 적용되었을 때 BBRT는 성능 향상을 유지하는가?

주요 결과

• BBRT는 잘 알려진 순차적 및 그래프 기반 모델에 적용되었을 때 분자 성질 최적화 벤치마크에서 새로운 최고 성능을 달성하였다.
• QED 최적화의 경우, logP를 보조 성질로 사용한 BBRT는 직접 QED 점수 평가와 동일한 최대 QED 값을 달성하였으며, 평균 logP 또한 향상시켰다.
• 15회의 순환 반복 후, logP 점수 기반 BBRT는 QED 점수 기반보다 더 낮은 평균 QED 값을 수렴하였으며, 이는 서로 다른 목표에서 장기적인 최적화 시 성능 상충 관계가 있음을 시사한다.
• 이 방법은 다양한 디코딩 전략(예: 그리디, 빔 서치)과 모델 아키텍처 전반에서 일관된 성능 향상을 보였다.
• logP와 QED 간 상관관계는 [0.7, 0.8] 범위에서 약했으며(ρ = 0.007, p > 0.8), 이는 한 성질을 최적화한다고 다른 성질이 자동으로 향상되지 않음을 시사하지만, BBRT는 실제로 두 성질 모두를 향상시켰다.
• BBRT는 분자 브레이크포인트를 통해 해석 가능한 설계를 가능하게 하여, 사용자가 어떤 순환 단계에서든 대체 변환 경로를 탐색하고 선택할 수 있도록 한다.