[論文レビュー] Convergence rate of a simulated annealing algorithm with noisy observations

Clément Bouttier, Ioana Gavra|arXiv (Cornell University)|Mar 1, 2017

Metaheuristic Optimization Algorithms Research参考文献 1被引用数 15

ひとこと要約

本稿では、ノイズのある観測下における確率的グローバル最適化のための修正されたシミュレーテッド・アニーリングアルゴリズムを提案し、所定の精度および信頼水準を達成するための関数評価回数を最小化するように最適化されたパラメータを用いた収束速度を導出している。主な貢献は、理論的収束速度 $\mathcal{O}(t^{-(\delta_2 - \delta_1)})$ の導出であり、標準ベンチマークおよび実世界の問題に対する数値実験で検証されている。

ABSTRACT

In this paper we propose a modified version of the simulated annealing algorithm for solving a stochastic global optimization problem. More precisely, we address the problem of finding a global minimizer of a function with noisy evaluations. We provide a rate of convergence and its optimized parametrization to ensure a minimal number of evaluations for a given accuracy and a confidence level close to 1. This work is completed with a set of numerical experimentations and assesses the practical performance both on benchmark test cases and on real world examples.

研究の動機と目的

• 関数評価がノイズによって汚染される確率的グローバル最適化の課題に対処すること。
• ノイズのある観測を考慮しつつ収束保証を維持するように修正されたシミュレーテッド・アニーリングアルゴリズムの開発。
• アルゴリズムの収束速度を導出し、所定の精度および信頼水準を達成するための関数評価回数を最小化するようにパラメータを最適化すること。
• 標準ベンチマークおよび実世界の応用における数値実験を通じて理論的結果の妥当性を検証すること。
• 関数評価が高価またはノイズを含む状況において、シミュレーテッド・アニーリングを実用的に使用するためのフレームワークを提供すること。計算コストと解の品質のバランスをとる。

提案手法

• 古典的なシミュレーテッド・アニーリングアルゴリズムを、期待コスト関数のモンテカルロ推定器を組み込むことで、ノイズのある観測に対応するように変更する。
• 独立同一分布の $N$ 個のサンプルを用いて真の期待値を近似するサンプル平均推定器 $\widehat{\mathbb{E}}_{\omega,N}(U(x,\omega)) = \frac{1}{N}\sum_{i=1}^N U(x,\omega_i)$ を使用する。
• 探索と収束を制御するため、$T_t \propto t^{-\delta_1}$ に比例するべき温度スケジュール $T_t$ を導入する。
• 最適解からの期待二乗距離 $u_t = \mathbb{E}[\|x_t - x^*\|^2]$ に対する再帰的関係を確立し、その減少を制限する微分不等式を導出する。
• グロンウォール型の議論と積分推定を適用して収束速度を評価し、温度スケジュールに適切な条件下で $u_t = \mathcal{O}(t^{-(\delta_2 - \delta_1)})$ を得る。
• 精度 $\epsilon$ を達成するための評価回数を最小化するように、パラメータ $\delta_1$ と $\delta_2$ を最適化する。

実験結果

リサーチクエスチョン

• RQ1 関数評価がノイズによって汚染される場合、シミュレーテッド・アニーリングアルゴリズムの収束速度はどのように変化するか？
• RQ2 アルゴリズムのパラメータをどのように最適化すれば、所定の目標精度および信頼水準を達成するための関数評価回数を最小化できるか？
• RQ3 従来の確率的最適化手法と比較して、修正されたシミュレーテッド・アニーリングアルゴリズムの収束速度および計算効率はどのように異なるか？
• RQ4 理論的収束速度は、標準ベンチマークおよび実世界の問題に対する数値実験によって検証可能か？
• RQ5 ノイズ構造が収束行動に与える影響は何か？また、その影響に対してアルゴリズムをどのように強化できるか？

主な発見

• 提案アルゴリズムは、$\delta_1 < \delta_2$ を満たすべきべき乗則温度スケジュール下で、収束速度 $\mathcal{O}(t^{-(\delta_2 - \delta_1)})$ を達成する。
• 精度 $\epsilon$ を高い信頼性で達成するための関数評価回数は、パラメータ $\delta_1$ と $\delta_2$ を最適化することで最小化され、$\Gamma_\gamma \simeq \frac{1}{\gamma}$ がレート定数を制御する。
• 数値実験により、標準ベンチマーク関数および実世界の産業問題において理論的収束速度が確認され、実用的な効率性が示された。
• アルゴリズムは低メモリかつ各反復における計算コストが低く、関数評価が安価だがノイズを含む問題に適している。
• コスト関数が有界で推定器が一貫している限り、収束速度はノイズに対してロバストであり、ややきつい正則性仮定の下で理論的保証が得られる。
• 特に $\alpha > 2$、$\delta_2 = 1$、$\gamma = \alpha/2 - 1$ の場合、レート定数 $\Gamma_\gamma$ が最小化され、収束が速くなるように最適なパrameterチューニングが達成される。