[論文レビュー] A trust-region method for derivative-free nonlinear constrained stochastic optimization

Menhorn, F., F. Augustin+2 more|arXiv (Cornell University)|Mar 12, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 47被引用数 11

ひとこと要約

本稿では、不確実性下での非線形制約付き確率的最適化を対象とする勾配フリーな信頼領域最適化手法(S)NOWPACを提案する。目的関数および制約のブラックボックス評価におけるノイズを低減するために、局所的な完全二次近似モデルとガウス過程サーモンスを組み合わせ、既存手法と比較してより高い妥当性と精度で収束を実現する。

ABSTRACT

In this work we introduce the stochastic nonlinear constrained derivative-free optimization method (S)NOWPAC (Stochastic Nonlinear Optimization With Path-Augmented Constraints). The method extends the derivative-free optimizer NOWPAC to be applicable for optimization under uncertainty. It is based on a trust-region framework, utilizing local fully quadratic surrogate models combined with Gaussian process surrogates to mitigate the noise in the objective function and constraint evaluations. We show the performance of our algorithm on a variety of robust optimization problems from the CUTEst benchmark suite by comparing to other state-of-the-art optimization methods. Although we focus on robust optimization benchmark problems to demonstrate (S)NOWPAC's capabilities, the optimizer can be applied to a broad range of applications in nonlinear constrained stochastic optimization.

研究の動機と目的

• 目的関数および制約が確率的でブラックボックス的であり、評価にノイズが含まれ、勾配の情報が得られない非線形制約付き最適化問題を扱う。
• シミュレーションベースの応用（例：変動する風速とセンサーノイズを伴う風力発電所の制御）において不確実性を効果的に扱える堅牢な最適化フレームワークを開発する。
• ガウス過程モデルを活用してノイズ低減と評価補正を実現することで、勾配フリー最適化における収束性と妥当性を向上させる。
• 信頼領域法とサーモンスモデリング、妥当性回復を組み合わせることで、計算予算が限られた条件下でも効率的な不確実性下での最適化を可能にする。
• 計算予算が限られた状況下で、解の品質と制約違反の制御において、既存の確率的および勾配フリー最適化手法を上回ることを目的とする。

提案手法

• 本手法は、目的関数および制約のノイズのあるブラックボックス評価を扱えるように、勾配フリーな信頼領域最適化手法NOWPACを拡張したものである。
• 信頼領域内での目的関数および制約の局所的完全二次近似モデルを用いることで、局所的収束性を向上させる。
• ガウス過程サーモンスを用いて関数評価のノイズをモデル化・低減し、より正確で安定した最適化を可能にする。
• サーモンス予測とノイズ推定に基づいて、動的に信頼領域を更新するパス拡張型信頼領域フレームワークを採用する。
• ノイズによる誤った妥当性仮定を是正するため、妥当性回復モードを導入する。
• ガウス過程のハイパーパrameterに対して、精度と計算コストのバランスを取るために、解析的およびヒューリスティックなスムージングを両方サポートする。

実験結果

リサーチクエスチョン

• RQ1 勾配フリーな信頼領域法は、確率的最適化問題におけるノイズのあるブラックボックス的目的関数および制約関数を効果的に扱えるか？
• RQ2 ガウス過程サーモンスは信頼領域フレームワークにどのように統合され、確率的最適化におけるノイズ低減と収束性向上に寄与するか？
• RQ3 サーモンスに基づくノイズ低減は、確率的最適化における妥当性と制約違反にどのような影響を与えるか？
• RQ4 (S)NOWPACは、既存の確率的および勾配フリー最適化手法と比較して、解の品質とロバストネスの面で優れているか？
• RQ5 ガウス過程サーモンスにおいて、解析的スムージングとヒューリスティックスムージングの間には、計算コストと精度のトレードオフが生じるか？

主な発見

• (S)NOWPACは、妥当性回復機構のおかげで、他の手法と比較して顕著に低い制約違反を達成しており、多くの場合ノイズレベル以下に抑えられる。
• 特に低次元問題において、SPSA や KWSA などの他の最適化手法と比較して、目的関数誤差と最適設計の精度の面で優れている。
• テスト問題29および228において、解析的スムージングアプローチがヒューリスティックスムージングよりも、目的関数および最適設計の相対誤差が低くなる。
• 高次元問題（例：100, 113, 285）においても、解析的スムージングアプローチはヒューリスティック手法と同等またはそれ以上の性能を示し、次元に依存しないロバストネスを示している。
• ガウス過程サーモンスの導入により、ノイズ低減が向上し、より信頼性の高い収束が実現され、単に確率的近似や繰り返し評価に依存する手法を上回る。
• SoR, DTC, FITC などの近似ガウス過程手法を用いることで、グローバルなGP評価のコストを削減しながらも、性能を維持する計算効率が確保されている。