[論文レビュー] Re-Examining Linear Embeddings for High-Dimensional Bayesian Optimization

Benjamin Letham, Roberto Calandra+2 more|arXiv (Cornell University)|Jan 31, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 54被引用数 32

ひとこと要約

本論文は、高次元ベイズ最適化（HDBO）のための線形埋め込み（ランダム射影）がパフォーマンスを下げる理由を分析し、モデル化を改善し最適値を含む確率を高めるための、Mahalanobisカーネルと制約付き埋め込みを用いる方法 ALEBO を導入します。

ABSTRACT

Bayesian optimization (BO) is a popular approach to optimize expensive-to-evaluate black-box functions. A significant challenge in BO is to scale to high-dimensional parameter spaces while retaining sample efficiency. A solution considered in existing literature is to embed the high-dimensional space in a lower-dimensional manifold, often via a random linear embedding. In this paper, we identify several crucial issues and misconceptions about the use of linear embeddings for BO. We study the properties of linear embeddings from the literature and show that some of the design choices in current approaches adversely impact their performance. We show empirically that properly addressing these issues significantly improves the efficacy of linear embeddings for BO on a range of problems, including learning a gait policy for robot locomotion.

研究の動機と目的

• HDBO で使用される線形埋め込みがなぜ貧弱に機能するのか、モデリングの問題を診断する方法を特定する。
• 線形埋め込みを使用する際のGPモデリング性を改善する方法を開発する。
• ベンチマークや実問題で既存手法より優れる新しい線形埋め込みHDBO手法 ALEBO を提案する。

提案手法

• BO における線形埋め込みの特性と、周囲の箱境界へのクリッピングが関数をゆがめる様子を分析する。
• 線形埋め込みに特化したMahalanobisカーネルを導入し、GPモデリング性を向上させる。
• 非線形クリッピングの歪みを回避するため、埋め込みでの最適化を -1 <= B^†y <= 1 で定義されるポリトープに制約する。
• モンテカルロ法と線形計画法を用いて、埋め込みが最適値を含む確率 P_opt を推定・最大化する。
• Hypersphereベースのランダム射影、Mahalanobisカーネル、制約付き獲得最適化を用いるALEBO を提案する。
• 合成HDBOベンチマークと実世界タスク（NAS、ロボット機 locomotion）での ALEBO の性能を実証する。

実験結果

リサーチクエスチョン

• RQ1 ボックス境界が存在する場合、BO における線形埋め込みは関数モデリングをどのように歪めるのか？
• RQ2 線形埋め込み用に特化したカーネル（Mahalanobisカーネル）は埋め込み内のGPモデリング性を改善できるか？
• RQ3 クリッピングによる非線形射影歪みを避けつつ最適値を含む高い確率を維持するにはどうすればよいか？
• RQ4 適応的な線形埋め込みBO 手法（ALEBO）は高次元タスクで既存の線形埋め込みBO の手法より優れているか？
• RQ5 合成ベンチマークと実世界の最適化問題で ALEBO の実務的性能はどうか？

主な発見

• 線形埋め込みは、投影された点が周囲の境界の外に出ると非線形な歪みを生み、GPモデリング能力を害する可能性がある。
• 埋め込み内の Mahalanobis カーネルは、真の部分空間射影から導出され、ARD RBF カーネルよりもGPモデリング性を改善する。
• -1 <= B^†y <= 1 を満たすよう y を制約するとクリッピング歪みを回避でき、効果的な線形モデリングが可能になるが、探索可能なボリュームは縮小する。
• 埋め込みが最適値を含む確率 P_opt は d_e > d のときおよび hypersphere サンプリングで増加し、成功の可能性を高める。
• Hypersphereベースの埋め込み、Mahalanobisカーネル、制約付き最適化を組み合わせた ALEBO は、ベンチマークで D=1000 まで、実問題（NAS、ロボット locomotion）で REMBO およびいくつかの HDBO ベースラインを上回る。
• 制約付き NAS タスクとロボットの locomotion において、 ALEBO は埋め込みベースのアプローチの中で最も性能が良い方法の1つである。