[论文解读] Predicting retrosynthetic pathways using a combined linguistic model and hyper-graph exploration strategy

Philippe Schwaller, Riccardo Petraglia+7 more|arXiv (Cornell University)|Oct 17, 2019

Machine Learning in Materials Science被引用 10

一句话总结

本文提出了一种新颖的逆合成规划框架，结合基于Transformer的分子语言模型与超图探索策略，实现合成路线的自动预测。通过利用正向预测似然度与分子简单性评分，该方法在单步逆合成预测中达到最先进性能，并通过贝叶斯启发式评分与束搜索遍历识别出最优路径。

ABSTRACT

We present an extension of our Molecular Transformer architecture combined with a hyper-graph exploration strategy for automatic retrosynthesis route planning without human intervention. The single-step retrosynthetic model sets a new state of the art for predicting reactants as well as reagents, solvents and catalysts for each retrosynthetic step. We introduce new metrics (coverage, class diversity, round-trip accuracy and Jensen-Shannon divergence) to evaluate the single-step retrosynthetic models, using the forward prediction and a reaction classification model always based on the transformer architecture. The hypergraph is constructed on the fly, and the nodes are filtered and further expanded based on a Bayesian-like probability. We critically assessed the end-to-end framework with several retrosynthesis examples from literature and academic exams. Overall, the frameworks has a very good performance with few weaknesses due to the bias induced during the training process. The use of the newly introduced metrics opens up the possibility to optimize entire retrosynthetic frameworks through focusing on the performance of the single-step model only.

研究动机与目标

• 开发一个无需人工干预的端到端自动化逆合成规划系统。
• 通过从数据中学习而非依赖手工编码规则，改进基于规则的系统。
• 解决现有AI模型在处理噪声数据与无效反应预测方面的局限性。
• 引入新型评估指标，聚焦于单步模型性能，以优化整个逆合成框架。
• 通过束搜索与超图剪枝，实现可扩展、数据驱动的逆合成，降低计算成本。

提出的方法

• 使用分子Transformer架构，将目标分子作为输入，以序列到序列翻译任务的形式预测反应物、试剂、溶剂与催化剂。
• 动态构建超图，其中节点表示分子，超弧表示连接反应物与产物的逆合成反应。
• 应用贝叶斯启发式评分函数：$ S(\text{C} \Rightarrow \text{A}+\text{B}) = P(\text{A}+\text{B} \rightarrow \text{C}) \cdot \frac{s(\text{A}) \cdot s(\text{B})}{s(\text{C})} $，其中 $ P $ 为正向预测似然度，$ s $ 为基于SCScore的简单性评分。
• 采用束搜索以限制计算成本，在每一步扩展中仅保留得分最高的路径。
• 对前体集合进行过滤与聚类，以减少冗余，并优先选择正向预测置信度更高的路径。
• 当所有前体均可商业购买、达到最大步数或检测到环路时，终止路径。

实验结果

研究问题

• RQ1 基于Transformer的模型是否能在最小化无效输出的同时，实现单步逆合成预测的最先进性能？
• RQ2 贝叶斯启发式评分函数在引导超图探索以找到最优合成路线方面有多高效？
• RQ3 新型评估指标（覆盖率、类别多样性、往返准确率、Jensen-Shannon散度）在多大程度上能反映并提升整个逆合成框架的性能？
• RQ4 束搜索结合剪枝与聚类在降低复杂度的同时，如何保持高质量路径的发现？
• RQ5 该系统的主失败模式是什么？其受训练数据偏差的影响程度如何？

主要发现

• 单步逆合成模型在预测反应物、试剂、溶剂与催化剂方面达到最先进性能，无效候选生成显著减少。
• 引入新型评估指标——覆盖率、类别多样性、往返准确率与Jensen-Shannon散度，使单步模型的优化更加聚焦，从而提升端到端性能。
• 在贝叶斯启发式评分引导下的超图探索策略，成功优先选择生成更简单前体的路径，提升了路线效率。
• 结合剪枝与聚类的束搜索显著降低了树结构复杂度，同时在复杂情况下仍能保持高质量路径的发现。
• 该框架在文献与学术逆合成问题上表现出色，仅存在因训练数据偏差导致的轻微弱点。
• 在扩展过程中检测环路能有效终止无益路径，防止无限循环，提升计算稳定性。