[論文レビュー] AdaLead: A simple and robust adaptive greedy search algorithm for sequence design

Sam Sinai, Richard Wang+4 more|arXiv (Cornell University)|Oct 5, 2020

Evolutionary Algorithms and Applications参考文献 41被引用数 39

ひとこと要約

AdaLeadは、最先端手法と競合するシンプルな適応的貪欲アルゴリズムをシーケンス設計に導入し、FLEXS環境におけるTF、RNA、タンパク質設計タスクを横断して評価しています。頑健性と一貫性を示し、不完全なモデルでも良い性能を発揮します。

ABSTRACT

Efficient design of biological sequences will have a great impact across many industrial and healthcare domains. However, discovering improved sequences requires solving a difficult optimization problem. Traditionally, this challenge was approached by biologists through a model-free method known as "directed evolution", the iterative process of random mutation and selection. As the ability to build models that capture the sequence-to-function map improves, such models can be used as oracles to screen sequences before running experiments. In recent years, interest in better algorithms that effectively use such oracles to outperform model-free approaches has intensified. These span from approaches based on Bayesian Optimization, to regularized generative models and adaptations of reinforcement learning. In this work, we implement an open-source Fitness Landscape EXploration Sandbox (FLEXS: github.com/samsinai/FLEXS) environment to test and evaluate these algorithms based on their optimality, consistency, and robustness. Using FLEXS, we develop an easy-to-implement, scalable, and robust evolutionary greedy algorithm (AdaLead). Despite its simplicity, we show that AdaLead is a remarkably strong benchmark that out-competes more complex state of the art approaches in a variety of biologically motivated sequence design challenges.

研究の動機と目的

• モデルが導く探索を活用して、生物学的シーケンスの効率的な設計を促進する。
• AdaLeadを提案する。シーケンス設計のためのシンプルな適応的貪欲アルゴリズム。
• さまざまなランドスケープ（TF結合、RNA、タンパク質設計）にわたってAdaLeadを最先端手法とベンチマークする。
• FLEXS環境を用いて堅牢性、一貫性、バッチサンプル効率を評価する。

提案手法

• 利用可能なデータで訓練された代理モデルphi'と、真のオラクルphiを組み合わせた探索フレームワークを定義する。
• AdaLeadを導入：最大値近傍からのシード生成、再結合、ロールアウト変異、およびバッチ全体でphi'による選択。
• 表面が平坦なとき貪欲性を制御し多様性を促進する閾値パラメータκを用いる。
• 特定の実証モデルに依存せず、頑健性と一貫性を検討するための抽象的なノイズ混入モデルphi'_alphaを用いる。
• 複数のモデルのアンサンブル(phi'')でAdaLeadを評価し、ランドスケープ全体でDynaPPO、CbAS/DbAS、CMA-ESと比較する。
• ベンチマークと再現性のためのオープンソースのシミュレーション環境FLEXSを提供する。

実験結果

リサーチクエスチョン

• RQ1 モデル特性の誤指定とノイズ下で、AdaLeadは他の最先端のシーケンス設計アルゴリズムと比較してどのように性能を発揮するか？
• RQ2 代理モデルが貧弱または偏っている場合、AdaLeadは頑健か？
• RQ3 基盤となるモデル品質が改善するにつれて、AdaLeadは一貫性と多様性を維持するか？
• RQ4 生物学的に動機づけられたさまざまなランドスケープ（TF結合、RNA、タンパク質設計）において、AdaLeadはどのようにスケールし、性能を発揮するか？

主な発見

• AdaLeadは、競合手法よりも高性能なピークをより一貫して見つけることが多い。
• RNAランドスケープでは、AdaLeadはしばしばグローバル最適解を見つけ、複雑で高度にエピスタシーな表面で他を上回る。
• AdaLeadは頑健性を示し、情報量の少ないモデルやアンサンブルCNN代理モデルでも高い性能を維持する。
• TF、RNA、タンパク質設計タスク全体で、AdaLeadは競争力のある最適化と、見つかった最良シーケンスの時間的推移が有利であることを示す。