[論文レビュー] In a Nutshell -- The Sequential Parameter Optimization Toolbox

Thomas Bartz–Beielstein, Martin Zaefferer+1 more|arXiv (Cornell University)|Dec 12, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 10被引用数 11

ひとこと要約

本稿では、シミュレーションおよび最適化アルゴリズムのチューニングと分析を目的としたR言語用の逐次的パrameter最適化ツールボックスSPOTを紹介する。この手法は、例えばカーリング、ランダムフォレストなどのスレーブモデルを統合し、繰り返しの実験設計、感度分析、応答曲面モデリングを通じてアルゴリズムの性能を向上させる。球関数や要因変数を含むブランハイン関数といったベンチマーク問題において、収束性と頑健性の顕著な向上が確認された。

ABSTRACT

The performance of optimization algorithms relies crucially on their parameterizations. Finding good parameter settings is called algorithm tuning. The sequential parameter optimization (SPOT) package for R is a toolbox for tuning and understanding simulation and optimization algorithms. Model-based investigations are common approaches in simulation and optimization. Sequential parameter optimization has been developed, because there is a strong need for sound statistical analysis of simulation and optimization algorithms. SPOT includes methods for tuning based on classical regression and analysis of variance techniques; tree-based models such as CART and random forest; Gaussian process models (Kriging), and combinations of different meta-modeling approaches. Using a simple simulated annealing algorithm, we will demonstrate how optimization algorithms can be tuned using SPOT. The underling concepts of the SPOT approach are explained. This includes key techniques such as exploratory fitness landscape analysis and sensititvity analysis. Many examples illustrate how SPOT can be used for understanding the performance of algorithms and gaining insight into algorithm's behavior. Furthermore, we demonstrate how SPOT can be used as an optimizer and how a sophisticated ensemble approach is able to combine several meta models via stacking. This article exemplifies how SPOT can be used for automatic and interactive tuning.

研究の動機と目的

• 最適化アルゴリズムにおけるパrameterチューニングという重要な課題に取り組むこと。これは、アルゴリズムの性能が要因設定に強く依存するためである。
• モデルベース分析を通じてアルゴリズム挙動の理解と改善を図る、体系的で統計的根拠に基づいたフレームワークを提供すること。
• シミュレーテッド・アニーリングなどの最適化メタヒューリスティクスの自動的およびインタラクティブなチューニングを、統一されたRベースのツールボックスを通じて可能にすること。
• 複数のメタモデリング技術とアンサンブル戦略を統合することで、サロゲートモデルに基づく最適化（SMBO）を支援すること。
• アルゴリズム性能に関する深い洞察を得るための探索的フィットネスランドスケープ分析および感度分析を促進すること。

提案手法

• SPOTは三段階の実験フレームワークを採用する：（L1）目的関数、（L2）最適化アルゴリズム（例：SANN）、（L3）SPOTをチューナーとして用いるチューニング戦略。
• 初期段階ではラテンハイパーボリュームサンプリングを用い、その後はサロゲートモデルに基づく適応的サンプリングを実施する逐次的実験設計を採用する。
• コアとなるモデリング技術には回帰、ANOVA、CART、ランダムフォレスト、カーリング（ガウス過程）およびスタッキングによるハイブリッドモデルが含まれる。
• 繰り返し評価とOCBA（最適計算予算配分）を用いることで、ノイズのある目的関数に対しても対応し、効率的なサンプリングを実現する。
• グローバルなサロゲートモデルからの解を精緻化するために、局所最適化器（例：L-BFGS-B、NLOPT-R）を統合する。
• 因子変数は整数にエンコードし、buildKrigingDACEなどの特別なモデルタイプを用いて対応する。

実験結果

リサーチクエスチョン

• RQ1 サロゲートモデリングと統計的実験設計は、ヒューリスティック最適化アルゴリズムのチューニングをどのように改善するか？
• RQ2 カーリングやランダムフォレストなどの異なるメタモデリング技術が、収束速度と解の品質に与える影響は何か？
• RQ3 目的関数のノイズはアルゴリズムチューニングにどのような影響を及ぼし、その影響を軽減する戦略は何か？
• RQ4 スタッキングによるアンサンブルモデリングは、最適化におけるサロゲートモデルの頑健性と精度を向上させるか？
• RQ5 因子変数は、逐次的パrameter最適化フレームワーク内で効果的にモデリング・最適化できるか？

主な発見

• SPOTはカーリングとL-BFGS-Bを用いてシミュレーテッド・アニーリングアルゴリズムをチューニングし、100回の関数評価で球関数においてほぼ最適解（例：f(x) ≈ 0.041）を達成した。
• 繰り返し評価とOCBAの導入によりノイズの影響が軽減され、最小限の関数評価で解の信頼性が向上した。
• 局所最適化を組み合わせたカーリングベースのモデルは、単純なモデルを上回り、ノイズを含む球関数において100回の評価でf(x) ≈ 0.041を達成した。
• 因子変数はブランハイン関数において効果的に処理され、SPOTは最適な設定x ≈ (2.62, 2.73, 2)を特定し、f(x) ≈ 0.678の解を得た。
• 30次元の球関数において、buildGaussianProcessはbuildKrigingよりも速い収束（23.96 vs. 27.12）を示したが、計算コストが高かった。
• マイクロベンチマークの結果、buildGaussianProcessはbuildKrigingよりも著しく遅く（2.07s vs. 69.58s）あり、精度と速度のトレードオフが明確に示された。