[論文レビュー] BOSS: Bayesian Optimization over String Spaces

Henry B. Moss, Daniel Beck+3 more|arXiv (Cornell University)|Oct 2, 2020

Machine Learning and Algorithms参考文献 28被引用数 20

ひとこと要約

本稿では、文字列カーネルに基づくガウス過程を用いて、潜在空間へのマッピングを不要とする、生の文字列上で直接作用するベイズ最適化フレームワークBOSSを提案する。文脈自由文法によって制御されるような制約付き文字列空間において、文字列カーネルと遺伝的アルゴリズムを用いた獲得関数最適化を組み合わせることで、VAEベースのベースラインを上回る優れた最適化性能を達成する。最小限のデータと、2つのカーネルパラメータを除くハイパーパramータチューニングが不要である。

ABSTRACT

This article develops a Bayesian optimization (BO) method which acts directly over raw strings, proposing the first uses of string kernels and genetic algorithms within BO loops. Recent applications of BO over strings have been hindered by the need to map inputs into a smooth and unconstrained latent space. Learning this projection is computationally and data-intensive. Our approach instead builds a powerful Gaussian process surrogate model based on string kernels, naturally supporting variable length inputs, and performs efficient acquisition function maximization for spaces with syntactical constraints. Experiments demonstrate considerably improved optimization over existing approaches across a broad range of constraints, including the popular setting where syntax is governed by a context-free grammar.

研究の動機と目的

• 既存のベイズ最適化（BO）手法が、連続的で潜在空間への高価でデータ集約的な符号化に依存しているという限界を是正すること。
• 文字列のBOにおいて、変分オートエンコーダー（VAE）や固定長ベクトル表現（例：bag-of-ngrams）の必要性を排除すること。
• 離散的で文法的に制約けん文字列空間における、効率的な獲得関数最適化戦略の開発。
• 非連続部分列の類似性を捉えるカーネルに基づく代理モデルを用いて、生の文字列上で直接最適化を可能とすること。
• 分子設計や遺伝子設計を含む多様な文脈制約付き問題において、最適化の効率性と頑健性の向上を実証すること。

提案手法

• 変動長文字列間の類似性を共有される非連続部分列を介して測定するため、畳み込み文字列カーネルに基づく文字列固有のカーネル（SSK）を提案する。
• SSKをカーネル関数として用いるガウス過程（GP）代理モデルを採用し、生の文字列入力上で目的関数を滑らかにモデル化可能にする。
• 文脈自由文法によって定義されるような、離散的で文法的に制約けん文字列空間における獲得関数最適化に特化した遺伝的アルゴリズムのスイートを導入する。
• 大規模な教師なし事前学習を必要とせず、わずかな関数評価数のみでSSKの2つのハイパーパramータを微調整可能にする。
• カーネル主成分分析（KPCA）を用いてSSKの内在的特徴空間を可視化し、VAEの潜在空間よりも目的関数の滑らかさをよりよく捉えていることを示す。
• SSK-GPモデルを標準的なBOループに統合し、多忠実度、多目的、バッチBOへの拡張を可能にする。

実験結果

リサーチクエスチョン

• RQ1 最小限のデータで、VAEベースの潜在空間マッピングを上回る性能を発揮する、文字列カーネルに基づくガウス過程代理モデルは、文字列空間におけるベイズ最適化で有効であるか？
• RQ2 遺伝的アルゴリズムを用いた獲得関数最適化戦略は、離散的で文法的に制約けん文字列空間の探索にどの程度効果的か？
• RQ3 2つの調整可能なパラメータしか持たない文字列カーネルが、分子設計および遺伝子設計タスクにおける複雑な目的関数をどの程度正確に捉えることができるか？
• RQ4 SSKを用いた生の文字列上での直接最適化は、VAEベース手法に共通する「デッドゾーン」と不適切な一般化の問題を回避できるか？
• RQ5 VAEが学習した潜在空間と比較して、SSK-GPモデルは目的関数の滑らかさをよりよく保持できるか？

主な発見

• SSK-GPモデルは、分子設計のSMILES文字列最適化において、VAEベースのベースラインを上回り、制約付き候補集合内での探索をより効果的に行う。
• 本フレームワークは、文脈自由文法によって制御されるような変動長文字列、および文法的制約付き文字列空間において、固定長符号化を必要とせずに最適化を実現した。
• SSKにおける2つのカーネルパラメータのみをチューニングすればよく、わずかな関数評価数で信頼性高く推定可能であり、データ依存性が著しく低減される。
• 遺伝的アルゴリズムは、複雑な文法的ルール下でも、離散的で文法的に制約けん文字列空間における獲得関数の最適化を効率的に行う。
• KPCAの可視化により、SSKの特徴空間が目的関数の滑らかさをVAEの潜在空間よりもよく捉えていることが示された。VAEの潜在空間は真の目的関数の地形と一致していない。
• 遺伝的アルゴリズムにより、有効な文字列のみが探索されるため、VAEで一般的に見られる「デッドゾーン」と不正な文字列のデコード問題を回避した。