[論文レビュー] Active Learning and Bayesian Optimization: a Unified Perspective to Learn with a Goal

Francesco Fiore, Michela Nardelli+1 more|arXiv (Cornell University)|Mar 2, 2023

Machine Learning and Algorithms参考文献 150被引用数 6

ひとこと要約

本稿は、ベイズ最適化とアクティブラーニングを、目的志向の適応的サンプリング手法として統一し、単一およびマルチファシリティ設定において、それぞれのコア基準（利益の最大化／情報性、探索／代表性）の同等性を形式的に定式化している。主な貢献は、特に計算リソースが限られた状況下でも最適化の効率性とロバスト性を向上させる、原則的で統合的な連携フレームワークの構築である。

ABSTRACT

Science and Engineering applications are typically associated with expensive optimization problems to identify optimal design solutions and states of the system of interest. Bayesian optimization and active learning compute surrogate models through efficient adaptive sampling schemes to assist and accelerate this search task toward a given optimization goal. Both those methodologies are driven by specific infill/learning criteria which quantify the utility with respect to the set goal of evaluating the objective function for unknown combinations of optimization variables. While the two fields have seen an exponential growth in popularity in the past decades, their dualism and synergy have received relatively little attention to date. This paper discusses and formalizes the synergy between Bayesian optimization and active learning as symbiotic adaptive sampling methodologies driven by common principles. In particular, we demonstrate this unified perspective through the formalization of the analogy between the Bayesian infill criteria and active learning criteria as driving principles of both the goal-driven procedures. To support our original perspective, we propose a general classification of adaptive sampling techniques to highlight similarities and differences between the vast families of adaptive sampling, active learning, and Bayesian optimization. Accordingly, the synergy is demonstrated mapping the Bayesian infill criteria with the active learning criteria, and is formalized for searches informed by both a single information source and multiple levels of fidelity. In addition, we provide guidelines to apply those learning criteria investigating the performance of different Bayesian schemes for a variety of benchmark problems to highlight benefits and limitations over mathematical properties that characterize real-world applications.

研究の動機と目的

• ベイズ最適化とアクティブラーニングを、共通の学習目的に駆動された適応的サンプリングフレームワークとして、概念的および手法論的連携を形式化すること。
• アクティブラーニングの基準（情報性、代表性／多様性）とベイズインフィル基準（利益の最大化、探索）の二重性を特定し、サンプリング効用の統一的駆動要因としてマッピングすること。
• 計算制約下での学習加速を目的として、低・高ファシリティデータソースを活用するマルチファシリティ設定へ、統一的視点を拡張すること。
• 問題の特性とリソースの可用性に基づいて最適な学習基準を選択するための実証的ガイドラインを提供すること。
• 多様な目的関数特性（非線形性、多峰性、ノイズ、不連続性）を有するベンチマーク問題を用いて、探索と利益の最大化のバランスが、幅広い目的関数特性にわたって優れたかつロバストな最適化性能をもたらすことを示すこと。

提案手法

• 目的志向の学習に駆動される適応的サンプリング手法の一般的な分類を提案し、ベイズ最適化とアクティブラーニングを共通のフレームワーク内に位置づける。
• アクティブラーニングの情報性基準を、ベイズ最適化のインフィル基準である利益の最大化にマッピングし、両者ともに期待改善度が高く、不確実性低減が期待できる領域へのサンプリングを指向することを示す。
• アクティブラーニングの代表性／多様性基準を、ベイズインフィル基準の探索にマッピングし、両者ともにドメイン全体におけるカバレッジ向上と不確実性低減を促進することを示す。
• 低ファシリティモデルを補助情報源として統合することで、マルチファシリティ設定への形式的拡張を実現する。
• 標準的な獲得関数（例：期待改善、エントロピー探索）を単一およびマルチファシリティの文脈で用い、提案された連携の有効性を評価する。
• 非線形性、多峰性、ノイズ、不連続性など多様な数学的特性を有するベンチマーク問題を用いて実証的評価を行い、性能のトレードオフを評価する。

実験結果

リサーチクエスチョン

• RQ1 アクティブラーニングのコア基準（情報性、代表性／多様性）が、統一されたフレームワーク内でのベイズ最適化のインフィル基準（利益の最大化、探索）にどのようにマッピングされるか。
• RQ2 複数のファシリティレベルが利用可能な状況下で、ベイズ最適化とアクティブラーニングの連携をどのように形式化できるか。
• RQ3 探索と利益の最大化のバランスが、多様な目的関数特性にわたって最適化性能に与える影響は何か。
• RQ4 マルチファシリティ学習は、リソース制約下の最適化設定において、計算効率とロバスト性をどのように向上させるか。
• RQ5 問題の特性と利用可能な計算リソースに基づいて、学習基準を効果的に選択するための実用的ガイドラインは何か。

主な発見

• 探索と利益の最大化のバランスが、目的関数に関する事前知識が限られている状況下でも、どちらかの基準を単独で用いる場合よりも、より優れたかつロバストな最適化性能をもたらす。
• 純粋な探索または代表性／多様性戦略は、高次元問題において、探索空間の非効率的サンプリングにより性能が著しく低下する可能性がある。
• マルチファシリティ学習スキームは、高速な低ファシリティモデルを活用することで、高ファシリティ評価の回数を削減し、顕著な計算リソースの節約と、滑らかでないまたは多峰性のある目的関数に対するロバストネスの向上を実現する。
• 提案された統一フレームワークにより、単一およびマルチファシリティ設定の両方で、アクティブラーニングとベイズ最適化の原則を一貫して適用可能となり、モデルの認識度と収束速度が向上する。
• 目的関数の数学的特性（例：ノイズ、非線形性）に基づいた獲得関数の知的使用は、より効率的かつ信頼性の高い最適化結果をもたらす。
• 情報性と利益の最大化、代表性／多様性と探索の間の形式的類似性は、実世界の工学的・科学的応用における適応的サンプリング戦略の設計に、原則的根拠を提供する。