[论文解读] A primer on model-guided exploration of fitness landscapes for biological sequence design

Sam Sinai, Eric D. Kelsic|arXiv (Cornell University)|Oct 4, 2020

Evolutionary Algorithms and Applications参考文献 84被引用 16

一句话总结

本文全面介绍了用于在高维生物序列空间中导航以识别具有所需功能特性的序列的模型引导探索策略。它强调了构建精确的适应度景观模型与设计高效探索算法之间的区别，提供了关于算法设计、评估中的陷阱以及将机器学习与实验生物学整合的最佳实践的实用指导。

ABSTRACT

Machine learning methods are increasingly employed to address challenges faced by biologists. One area that will greatly benefit from this cross-pollination is the problem of biological sequence design, which has massive potential for therapeutic applications. However, significant inefficiencies remain in communication between these fields which result in biologists finding the progress in machine learning inaccessible, and hinder machine learning scientists from contributing to impactful problems in bioengineering. Sequence design can be seen as a search process on a discrete, high-dimensional space, where each sequence is associated with a function. This sequence-to-function map is known as a "Fitness Landscape". Designing a sequence with a particular function is hence a matter of "discovering" such a (often rare) sequence within this space. Today we can build predictive models with good interpolation ability due to impressive progress in the synthesis and testing of biological sequences in large numbers, which enables model training and validation. However, it often remains a challenge to find useful sequences with the properties that we like using these models. In particular, in this primer we highlight that algorithms for experimental design, what we call "exploration strategies", are a related, yet distinct problem from building good models of sequence-to-function maps. We review advances and insights from current literature -- by no means a complete treatment -- while highlighting desirable features of optimal model-guided exploration, and cover potential pitfalls drawn from our own experience. This primer can serve as a starting point for researchers from different domains that are interested in the problem of searching a sequence space with a model, but are perhaps unaware of approaches that originate outside their field.

研究动机与目标

• 通过阐明建模适应度景观与探索适应度景观的挑战之间的差异，弥合机器学习与生物工程之间的沟通鸿沟。
• 识别并解决评估序列设计算法时的常见陷阱，特别是由有缺陷的代理模型、重复序列以及对梯度丰富的景观过度依赖所引发的问题。
• 指导研究人员选择和设计在真实生物情境下高效、稳健、可扩展且可复现的探索算法。
• 推动使用一致且校准良好的基准测试，以反映真实适应度景观的复杂性，包括不存在功能梯度的“沼泽地带”区域。
• 为跨学科研究人员提供资源，以有效理解和应用蛋白质与核酸设计中的模型引导探索技术。

提出的方法

• 提出一个框架，区分序列-功能映射（适应度景观）的建模与探索它的算法设计，强调这两者虽不同但密切相关。
• 综述了一系列模型引导探索策略，包括计算机模拟进化算法、探索-利用算法以及正则化生成模型，重点关注其实际实现。
• 引入“病态代理模型”（pathological oracles）的概念——即在训练域外存在偏差而误导优化的代理模型，并建议使用独立模型以避免过拟合。
• 主张在实验合成中避免重复序列，以防止多样性与适应度指标的人为膨胀。
• 建议在具有非均匀梯度的景观（如“沼泽地带”区域）上测试算法，以确保泛化能力，而非仅在平滑、梯度丰富的景观上测试。
• 强调在与自然进化比较时，校准选择压力和种群大小的重要性，因为这些参数决定了可检测到的适应度差异的分辨率。

实验结果

研究问题

• RQ1 构建适应度景观的预测模型与设计有效探索算法之间有何关键差异？
• RQ2 研究人员在使用机器学习模型作为序列探索代理模型时，如何避免算法过拟合？
• RQ3 为何仅在具有均匀梯度的适应度景观上测试序列设计算法不足以评估其在现实世界中的性能？
• RQ4 在高维生物序列空间中，从随机的非功能性序列初始化优化会产生什么后果？
• RQ5 在将模型引导探索与自然进化过程进行基准测试时，应如何校准选择压力和种群大小？

主要发现

• 模型引导探索与模型训练是不同的，算法不仅需评估其寻找高适应度序列的能力，还应评估其效率、可扩展性与鲁棒性。
• 使用不反映真实适应度景观的代理模型（如机器学习模型）可能导致性能被过度乐观地估计，尤其当算法过拟合于模型偏差时。
• 仅在处处具有梯度的景观上测试会导致算法性能被高估，因为这类景观无法反映生物序列空间中广泛存在的非功能性区域（“沼泽地带”）的现实。
• 从随机的非功能性序列初始化可能导致梯度上升算法被误导，若其起始于峰值附近或平坦区域，可能无法逃逸局部最优。
• 在与进化过程比较时，若选择压力和种群大小未一致校准，可能导致关于算法效率的无效结论，因为进化动力学对这些参数极为敏感。
• 合成文库中的重复序列会人为膨胀多样性与适应度指标，损害实验基准的有效性，需通过精心的实验设计加以避免。