[論文レビュー] Optimal resampling for the noisy OneMax problem

Jialin Liu, Michael Fairbank+2 more|arXiv (Cornell University)|Jul 22, 2016

Optimization and Search Problems参考文献 16被引用数 7

ひとこと要約

この論文は、加法的ガウスノイズを伴うノイズのあるOneMax問題におけるランダムミューテーションヒルクライミング（RMHC）アルゴリズムの最適な再サンプリング回数を解析的に導出する。最適な再サンプリング回数は問題次元に応じて増加し、ノイズ低減と計算コストのバランスをとるものであり、シミュレーションおよびフィットネス評価回数の理論的モデリングを用いた理論的・実験的検証によりこれを裏付けている。

ABSTRACT

The OneMax problem is a standard benchmark optimisation problem for a binary search space. Recent work on applying a Bandit-Based Random Mutation Hill-Climbing algorithm to the noisy OneMax Problem showed that it is important to choose a good value for the resampling number to make a careful trade off between taking more samples in order to reduce noise, and taking fewer samples to reduce the total computational cost. This paper extends that observation, by deriving an analytical expression for the running time of the RMHC algorithm with resampling applied to the noisy OneMax problem, and showing both theoretically and empirically that the optimal resampling number increases with the number of dimensions in the search space.

研究の動機と目的

• ノイズのあるOneMax問題におけるRMHCの最適な再サンプリング回数を特定し、フィットネス評価回数を最小化すること。
• 再サンプリングによるノイズ低減と増加する計算コストのトレードオフを分析すること。
• 加法的ガウスノイズの下で、最適な再サンプリング回数が問題次元にどのようにスケーリングするかを調査すること。
• 異なる次元および再サンプリングレベルにおいて、評価回数の理論的予測を、実験的シミュレーションで検証すること。

提案手法

• 再サンプリング下でのRMHCが最適解に到達するために必要なフィットネス評価回数の期待値を解析的に導出する。
• 各フィットネス評価が独立に汚染される定数分散σ²の加法的ガウスノイズを伴うノイズのあるOneMax問題をモデル化する。
• 各候補解のフィットネスを独立なノイズ付き評価r回の平均値として再サンプリングすることで分散を低減する。
• 1つのランダムビットを反転させた近傍を選び、再サンプリング平均を用いてフィットネスを比較する修正済みRMHCを適用する。
• 最良のこれまでの解の平均フィットネスと評価回数を追跡するための保存統計量手法を用い、効率を向上させる。
• 複数の次元および再サンプリング値において、10,000回の試行からの実験的平均と照らし合わせることで、理論的予測の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 ノイズのあるOneMax問題におけるRMHCのフィットネス評価回数の期待値を最小化する最適な再サンプリング回数は何か？
• RQ2 問題次元nが増加するにつれて、最適な再サンプリング回数はどのように変化するか？
• RQ3 高次元のノイズのあるOneMax問題において、再サンプリングは依然として有益であるか？もしそうなら、その有効性はどのように変化するか？
• RQ4 異なる再サンプリングレベルおよび次元において、評価回数の理論的予測は実験結果とどの程度一致するか？

主な発見

• 最適な再サンプリング回数は問題次元に応じて増加し、特にn > 10では再サンプリングが成功にとって不可欠となる。
• 低次元（n = 10）では再サンプリングが逆効果となり、過剰なノイズ低減のオーバーヘッドにより評価回数が増加する可能性がある。
• n = 1000では最適な再サンプリング回数が顕著に高く、保存統計量手法を用いることで評価回数が著しく削減される。
• 理論的予測された期待フィットネス評価回数（例：r=1、n=10のとき205.83）は実験的平均（205.20）とよく一致し、モデルの妥当性が裏付けられる。
• 実験結果から、最良のこれまでの統計量を保存しない場合、より多くの評価が必要となることが示され、状態追跡の利点が確認された。
• 高次元の場合（n ≫ 10）、最適な再サンプリングを用いることで評価回数が著しく削減され、その必要性が明確に示された。