[論文レビュー] Escaping local minima with derivative-free methods: a numerical investigation

Coralia Cartis, Lindon Roberts+1 more|arXiv (Cornell University)|Dec 29, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 37被引用数 24

ひとこと要約

この論文は、局所的最適化手法である Py-BOBYQA を用いた導関数フリーな信頼領域最適化の有効性を調査している。改善されたリスタート戦略を導入することで、著者らは Py-BOBYQA の変種が、ベイズ最適化、CMA-ES、DIRECT といった最先端のグローバル・ソルバーと同等またはそれ以上に性能を発揮することを示している。特に滑らかで乗法的ノイズを伴う問題において、高精度な最適化領域で顕著な優位性を示している。

ABSTRACT

We apply a state-of-the-art, local derivative-free solver, Py-BOBYQA, to global optimization problems, and propose an algorithmic improvement that is beneficial in this context. Our numerical findings are illustrated on a commonly-used but small-scale test set of global optimization problems and associated noisy variants, and on hyperparameter tuning for the machine learning test set MNIST. As Py-BOBYQA is a model-based trust-region method, we compare mostly (but not exclusively) with other global optimization methods for which (global) models are important, such as Bayesian optimization and response surface methods; we also consider state-of-the-art representative deterministic and stochastic codes, such as DIRECT and CMA-ES. As a heuristic for escaping local minima, we find numerically that Py-BOBYQA is competitive with global optimization solvers for all accuracy/budget regimes, in both smooth and noisy settings. In particular, Py-BOBYQA variants are best performing for smooth and multiplicative noise problems in high-accuracy regimes. As a by-product, some preliminary conclusions can be drawn on the relative performance of the global solvers we have tested with default settings.

研究の動機と目的

• 局所的導関数フリー最適化手法が、通常はグローバル・ソルバーが対象としているグローバル最適化問題を効果的に解けるかどうかを評価すること。
• 特にリスタート戦略というアルゴリズム的改善が、Py-BOBYQA が局所的最小値から脱出する能力に与える影響を調査すること。
• 滑らかでノイズのあるテスト問題および実世界の機械学習のハイパーパramータチューニングタスクにおいて、Py-BOBYQA の変種を幅広いグローバル最適化ソルバーと比較すること。
• 高精度および高予算領域における導関数フリー手法のスケーラビリティとロバストネスを評価すること。
• 特にノイズありおよび滑らかな設定において、グローバル・ソルバーのデフォルト設定下での相対的性能に実証的知見を提供すること。

提案手法

• 本研究では、モデルベースの信頼領域に基づく導関数フリー最適化ソルバーである Py-BOBYQA を採用し、ソフトリスタートおよび適応的信頼領域半径調整を組み合わせた改良版を用いる。
• 改善された Py-BOBYQA の変種は、関数評価から構築された二次補間モデルを用いて信頼領域内での局所探索をガイドし、収束の挙動に応じてモデルと領域のサイズを調整する。
• アルゴリズムは標準的なグローバル最適化テストセットおよびノイズを含む変種、さらに MNIST データセットのハイパーパramータチューニングタスクでもテストされた。
• 性能評価は、複数の精度レベル（低精度：τ=10⁻²、高精度：τ=10⁻⁵）および予算領域（10²(n+1) から 10⁴(n+1) 個の関数評価）で実施された。
• 最先端のグローバル・ソルバー（ベイズ最適化：GPyOpt, HyperOpt, PySMAC、補間手法：SNOBFIT, PySOT、CMA-ES、DIRECT）と比較された。
• 過去のベンチマークに基づき、完全な二次補間と適応的リスタートを備えた Py-BOBYQA の変種が、最良の性能を示したため、最終的な最良設定として選定された。

実験結果

リサーチクエスチョン

• RQ1 Py-BOBYQA のような局所的導関数フリー信頼領域法は、グローバル最適化問題において局所的最小値から効果的に脱出できるか？
• RQ2 改善されたリスタート戦略を備えた Py-BOBYQA の性能は、異なるノイズタイプと精度レベルにおいて、確立されたグローバル最適化ソルバーと比較してどうなるか？
• RQ3 どのような領域（精度、予算、ノイズタイプ）において、Py-BOBYQA が CMA-ES や DIRECT、ベイズ最適化といったグローバル・ソルバーを上回るか、または同等の性能を発揮するか？
• RQ4 標準的なテスト問題および実世界の機械学習タスクにおいて、グローバル・ソルバーのデフォルト設定の性能はどのように比較されるか？
• RQ5 高精度・高予算設定において、他のグローバル・ソルバーと比較して Py-BOBYQA の相対的なスケーラビリティとロバストネスはいかがなものか？

主な発見

• 改善された Py-BOBYQA の変種は、滑らかで乗法的ノイズを伴う問題において、高精度領域で他のすべてのソルバーを上回り、全体的な性能が最も優れていた。
• 滑らかな問題において高精度（τ=10⁻⁵）な領域では、最良の Py-BOBYQA 変種が最良のソルバーとしての性能を発揮し、次いで DIRECT が続く。
• 乗法的ノイズを伴う問題では、Py-BOBYQA と DIRECT が高精度領域で同等に優れた性能を示した。
• 加法的ノイズの問題では、DIRECT が最も優れており、次いで PySOT と Py-BOBYQA が続く。これは、このノイズタイプに対して高いロバストネスを示している。
• MNIST ハイパーパramータチューニングタスクでは、DIRECT と PySOT が最良の性能を示し、最良の Py-BOBYQA 変種もわずかに劣る程度の性能を発揮した。
• 低精度領域では、PySOT と最良の Py-BOBYQA 変種が他のベイズおよび補間ソルバーを上回った。平均的には PySOT がわずかに優れた性能を示した。