[論文レビュー] Running Time Analysis of the (1+1)-EA for OneMax and LeadingOnes under Bit-wise Noise

Chao Qian, Chao Bian+2 more|arXiv (Cornell University)|Nov 2, 2017

Metaheuristic Optimization Algorithms Research参考文献 27被引用数 3

ひとこと要約

本稿は、各ビットが確率 q で独立に反転するビットワイズノイズ下における OneMax および LeadingOnes 問題に対する (1+1)-EA の実行時間解析を初めて行ったものである。多項式時間での実行が達成可能となるのは低ノイズレベル（q = O(log n / n)）に限られ、サンプリングによりノイズ耐性が著しく向上し、より高いノイズレベル下でも多項式時間収束が可能になることが示された。

ABSTRACT

In many real-world optimization problems, the objective function evaluation is subject to noise, and we cannot obtain the exact objective value. Evolutionary algorithms (EAs), a type of general-purpose randomized optimization algorithm, have been shown to be able to solve noisy optimization problems well. However, previous theoretical analyses of EAs mainly focused on noise-free optimization, which makes the theoretical understanding largely insufficient for the noisy case. Meanwhile, the few existing theoretical studies under noise often considered the one-bit noise model, which flips a randomly chosen bit of a solution before evaluation; while in many realistic applications, several bits of a solution can be changed simultaneously. In this paper, we study a natural extension of one-bit noise, the bit-wise noise model, which independently flips each bit of a solution with some probability. We analyze the running time of the (1+1)-EA solving OneMax and LeadingOnes under bit-wise noise for the first time, and derive the ranges of the noise level for polynomial and super-polynomial running time bounds. The analysis on LeadingOnes under bit-wise noise can be easily transferred to one-bit noise, and improves the previously known results. Since our analysis discloses that the (1+1)-EA can be efficient only under low noise levels, we also study whether the sampling strategy can bring robustness to noise. We prove that using sampling can significantly increase the largest noise level allowing a polynomial running time, that is, sampling is robust to noise.

研究の動機と目的

• ビットワイズノイズモデル（各ビットが確率 q で独立に反転）下における OneMax および LeadingOnes 問題に対する (1+1)-EA の実行時間の解析を行うこと。
• (1+1)-EA が多項式時間または超多項式時間で実行されるノイズレベルの閾値（p および q の観点から）を特定すること。
• 特に高いノイズレベル下で、サンプリングが (1+1)-EA のノイズ耐性を向上させることを検証すること。
• より一般的なビットワイズノイズモデルに一般化することで、従来の一ビットノイズに関する結果を洗練・改善すること。
• 極端なノイズ条件下でのサンプリングの限界を調査し、サンプリングが多項式時間実行を保証できない条件を同定すること。

提案手法

• ドリフト解析を用いて、各反復における期待進捗を制限し、最適解からの距離の期待減少量を測定する。
• サンプリングなしの (1+1)-EA に対しては、ビットワイズノイズ（p, q）下での期待ドリフトを計算する。ここで p は解に対するノイズの発生確率、q はビット反転確率を表す。
• サンプリング変種では、各解について m 回の評価を行い、最も良いフィットネス推定値を選択する。m は高い信頼性を確保するため、O(n^4 log n) として選定される。
• 現在の解のフィットネスレベルに応じた場合分けを行い、特に最適解に近い解（n-3, n-2, n-1 個の先行1ビットを有する解）に注目する。
• ノイズ下でのより良い解とより悪い解の間のフィットネス差の期待値を分析し、サンプリングがそれらを信頼性高く区別できるかを評価する。
• ドリフト定理を用いて、理論的境界を導出し、最終的な境界としてビットワイズノイズ下におけるサンプリング変種の実行時間は O(n^8) となる。

実験結果

リサーチクエスチョン

• RQ1 ビットワイズノイズ下で (1+1)-EA が OneMax および LeadingOnes 問題を多項式期待時間で解くことができるノイズパラメータ (p, q) の範囲は何か？
• RQ2 ビットワイズノイズモデル下で高ノイズレベル（例：q = ω(log n / n)）において (1+1)-EA の性能はどのように劣化するか？
• RQ3 サンプリング戦略は、(1+1)-EA が多項式実行時間を持つノイズレベル範囲を著しく拡大できるか？
• RQ4 q = ω(log n / n) または q ≥ 1/2 の場合、低ノイズ時とは異なり、なぜサンプリングが多項式実行時間の保証に失敗するのか？
• RQ5 ビットワイズノイズ下における LeadingOnes の解析は OneMax とどのように異なり、サンプリングの有効性の違いはどのような要因によるか？

主な発見

• (1+1)-EA は、ビットワイズノイズ下で q = O(log n / n) のときのみ、OneMax および LeadingOnes 問題を多項式期待時間で解くことができ、両問題に対してこの境界はタイトである。
• サンプリングなしの (1+1)-EA では、q ≥ 1/2 または q = 1/2 - 1/n^ω(1) の場合、期待実行時間が超多項式時間にまで増加し、ノイズに対して極めて感受性が強いことが示された。
• サンプリング戦略により、耐えられるノイズレベルの上限が向上し、(1+1)-EA にサンプリングを適用した場合、q = O(log n / n) の範囲ですら多項式実行時間が達成可能である。非サンプリング変種に比べて著しく優れた性能を示す。
• 解析から、q = ω(log n / n) の場合、より良い解とより悪い解の間のフィットネス期待差が小さくなり、サンプリングによる区別が信頼性なくなることが明らかになった。
• サンプリング付き (1+1)-EA の期待実行時間は O(n^8) であり、1反復あたり O(n^4 log n) 回のフィットネス評価が必要であるため、総合的な期待実行時間も多項式のままである。
• ビットワイズノイズ下における LeadingOnes の解析は、従来の一ビットノイズに関する結果を改善し、よりタイトな境界を提供するとともに、この設定下でのサンプリングの耐性の高さを確認した。