[論文レビュー] Local Latent Space Bayesian Optimization over Structured Inputs

Natalie Maus, Haydn T. Jones+4 more|arXiv (Cornell University)|Jan 28, 2022

Machine Learning and Data Classification被引用数 12

ひとこと要約

この論文では、構造的入力（例：分子）を同時に最適化するため、潜在空間内の信頼領域と入力空間内の信頼領域を一致させるローカル潜在空間ベイズ最適化手法であるLOL-BOを提案する。共通のエンコーダーを深層カーネルとして用いることで、深層オートエンコーダーと信頼領域ベイズ最適化戦略を共同で設計し、実世界のベンチマークにおいて、最先端手法比で目的関数値を最大22倍まで向上させた。これは、最適化戦略が潜在空間モデリングと同等に重要であることを示している。

ABSTRACT

Bayesian optimization over the latent spaces of deep autoencoder models (DAEs) has recently emerged as a promising new approach for optimizing challenging black-box functions over structured, discrete, hard-to-enumerate search spaces (e.g., molecules). Here the DAE dramatically simplifies the search space by mapping inputs into a continuous latent space where familiar Bayesian optimization tools can be more readily applied. Despite this simplification, the latent space typically remains high-dimensional. Thus, even with a well-suited latent space, these approaches do not necessarily provide a complete solution, but may rather shift the structured optimization problem to a high-dimensional one. In this paper, we propose LOL-BO, which adapts the notion of trust regions explored in recent work on high-dimensional Bayesian optimization to the structured setting. By reformulating the encoder to function as both an encoder for the DAE globally and as a deep kernel for the surrogate model within a trust region, we better align the notion of local optimization in the latent space with local optimization in the input space. LOL-BO achieves as much as 20 times improvement over state-of-the-art latent space Bayesian optimization methods across six real-world benchmarks, demonstrating that improvement in optimization strategies is as important as developing better DAE models.

研究の動機と目的

• 構造的入力（例：分子）に対するベイズ最適化における高次元潜在空間の課題に対処すること。
• 潜在空間における局所最適化と元の入力空間における局所最適化のギャップを埋めること。
• 潜在空間モデルと局所ベイズ最適化戦略を共同で設計することで、最適化の効率を向上させること。
• 高次元ベイズ最適化戦略が、圧縮された潜在空間においても本質的であることを示すこと。
• 表現の選択（例：SELFIES）と共同学習の最適化パフォーマンスへの影響を評価すること。

提案手法

• LOL-BOはオートエンコーダーを、信頼領域ベイズ最適化フレームワーク内でのグローバルエンコーダーおよび深層カーネルとして再定式化する。
• 信頼領域仮定に整合するように、深層オートエンコーダーとスパースガウス過程スレーブモデルの上での共同変分推論を実行する。
• 最適化パフォーマンスを向上させるために、SELFIES文字列表現を基にしたトランスフォーマー型アーキテクチャを用いる。
• エンコーダーの局所的挙動がよく近似される領域に制限された、潜在空間における信頼領域ベイズ最適化（例：TuRBO）を適用する。
• 最適化中に目的関数の評価を潜在空間に挿入することで、半教師あり学習を可能にする。
• 再構成とカーネル計算の両方で共有エンコーダーを用いることで、入力空間と潜在空間の信頼領域の整合性を保証する。

実験結果

リサーチクエスチョン

• RQ1 構造的入力の潜在空間に、信頼領域ベイズ最適化戦略を効果的に適応できるか？
• RQ2 潜在空間モデルと局所最適化戦略を共同で設計することで、事前に訓練された潜在空間で標準BOを用いる場合よりも優れたパフォーマンスが得られるか？
• RQ3 分子表現の選択（例：SELFIES 対 JT-VAE）が、潜在空間BOにおける最適化パフォーマンスに与える影響は何か？
• RQ4 オートエナコーダーとスレーブモデルの共同学習が、最適化効率をどの程度向上させるか？
• RQ5 高次元ベイズ最適化手法を、潜在空間最適化の文脈で意味的に適用・改善できるか？

主な発見

• LOL-BOは、6つの実世界ベンチマークにおいて、最先端の潜在空間ベイズ最適化手法比で目的関数値を最大22倍まで向上させた。
• TDC DRD3ドッキングベンチマークでは、10回分のオракルクエリで最良のリーダーボード手法に並ぶ結果を達成し、優れたサンプル効率を示した。
• 固定された潜在空間においてLOL-BOはTuRBOを最大22倍まで上回った。これは、潜在空間と最適化器の共同学習が極めて重要であることを示している。
• SELFIESベースのVAEは、JT-VAE（標準偏差0.03）と比較して、目的関数の分散を低減（標準偏差0.01）し、最適化に適したより安定した潜在空間を提供した。
• Guacamolベンチマークでは、標準LS-BOおよびT-LBOと比較して、LOL-BOが最適化パフォーマンスを20倍向上させた。これは、最適化戦略の重要性を強調している。
• アブレーションスタディの結果、DAEとスレーブモデルの共同学習が性能向上に顕著に寄与しており、SELFIES VAEは優れた安定性と低いノイズを示した。