[論文レビュー] Batched Stochastic Bayesian Optimization via Combinatorial Constraints Design

Kevin Yang, Yuxin Chen+2 more|arXiv (Cornell University)|Apr 17, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 23被引用数 7

ひとこと要約

本稿では、タンパク質工学におけるサイト・サチュレーション変異誘発において、制約付きのアミノ酸選択を最適化し、確率的バッチにおける高有用性を示す配列の期待数を最大化する、バッチ処理された確率的ベイズ最適化（BSBO）を提案する。オンライン-DSOptと呼ばれる効率的なアルゴリズムを導入し、目的関数を下位集合関数の差（DS）に分解することで、グリーディー最適化が可能となり、合成および実際のタンパク質データセット（GB1、PhoQ）においてヒューリスティック法を上回る性能を発揮する。特に、極めてまれな高適合性を示す配列の発見にも成功している。

ABSTRACT

In many high-throughput experimental design settings, such as those common in biochemical engineering, batched queries are more cost effective than one-by-one sequential queries. Furthermore, it is often not possible to directly choose items to query. Instead, the experimenter specifies a set of constraints that generates a library of possible items, which are then selected stochastically. Motivated by these considerations, we investigate \emph{Batched Stochastic Bayesian Optimization} (BSBO), a novel Bayesian optimization scheme for choosing the constraints in order to guide exploration towards items with greater utility. We focus on \emph{site-saturation mutagenesis}, a prototypical setting of BSBO in biochemical engineering, and propose a natural objective function for this problem. Importantly, we show that our objective function can be efficiently decomposed as a difference of submodular functions (DS), which allows us to employ DS optimization tools to greedily identify sets of constraints that increase the likelihood of finding items with high utility. Our experimental results show that our algorithm outperforms common heuristics on both synthetic and two real protein datasets.

研究の動機と目的

• 直接のアイテム照会が不可能であり、バッチが確率的に抽出される高スループット実験設定におけるライブラリ設計最適化の課題に対処すること。
• 各バッチにおける改善されたタンパク質配列の期待数を最大化する制約の選択をモデル駆動フレームワークで行うこと。
• 現実の生化学的実験における、可能な制約集合の組み合わせの爆発的増加と確率的サンプリングの不確実性に対処すること。
• 全数スクリーニングを実施せずに、高適合性タンパク質配列への探索を効率的かつオンラインで最適化することを可能にすること。

提案手法

• 個々のタンパク質配列の有用性を制約空間にマップする新しい近似目的関数を提案し、確率的バッチにおける期待改善を捉える。
• 目的関数を下位集合関数の差（DS）に分解し、DSツール（DSOpt-SA や DSOpt-DC）を用いた効率的最適化を可能にする。
• オンライン-DSOptを提案。反復的にバッチサンプリング制約下でDS分解された目的関数を改善することで、制約集合をグリーディーに選択するオンラインアルゴリズム。
• タンパク質機能-構造関係をモデル化し、配列有用性を予測するために、マトérn核を用いたガウス過程回帰を採用。
• 各イテレーションで、制約で定義されたライブラリから復元抽出により配列を確率的に抽出する確率的バッチサンプリングメカニズムを採用。
• 空集合での局所最適解を避けるために、非空の制約集合（例：最良の1つのクエリ）から最適化を初期化。

実験結果

リサーチクエスチョン

• RQ1 モデル駆動で制約に基づく最適化フレームワークは、サイト・サチュレーション変異誘発におけるタンパク質ライブラリ選択において、直感的ヒューリスティック法を上回ることができるか？
• RQ2 戦略的な制約設計により、確率的バッチにおける改善された配列の期待数をどのように最大化できるか？
• RQ3 バッチ処理された確率的ベイズ最適化の目的関数を、効率的なスケーラブル最適化を可能にする下位集合関数の差（DS）に分解できるか？
• RQ4 提案手法は、ランダムサンプリングや単一変異ヒューリスティック法では得にくい、極めてまれな高適合性タンパク質配列をどの程度効果的に発見できるか？

主な発見

• 合成データセットにおいて、オンライン-DSOptは全バッチサイズでグリーディー・ヒューリスティック（グリーディー・アド、グリーディー・リム）を著しく上回り、特にグリーディー法が失敗する小規模バッチにおいて顕著な優位性を示した。
• DSOpt-SA および DSOpt-DC は、完全なグリーディー法と同等の性能を示し、グローバル収束が保証されないにもかかわらず、制約空間の効果的な探索が可能であることを示唆した。
• GB1およびPhoQタンパク質データセットにおいて、オンライン-DSOptは、99.8百分位数以上という極めてまれで、500未満の配列のランダムサンプリングでは得にくい適合性を示す配列を特定した。
• 本手法は、単一変異や最良変異再結合戦略では達成できない、複数部位の組み合わせによる適合性向上を効果的に同定し、エピスタシス的ランドスケープにおける有効性を示した。
• バッチサイズ100のシミュレーションを3ラウンド実施した結果、オンライン-DSOptは一貫して改善された配列を発見し、それらはワイルドタイプおよび単一変異ベースラインを上回る結果となった。
• 本手法は、ライブラリの有効サイズを縮小しつつ、高有用性配列のサンプリング確率を向上させた。その結果、大規模な変異誘発実験がより現実的かつ効率的に行えるようになった。