[論文レビュー] Evolutionary Algorithms and Submodular Functions: Benefits of Heavy-Tailed Mutations

Tobias Friedrich, Andreas Göbel+2 more|arXiv (Cornell University)|May 28, 2018

Metaheuristic Optimization Algorithms Research被引用数 8

ひとこと要約

本稿は、(1+1)進化計算アルゴリズムにおける新しい重尾型変異演算子 pmut_β を導入する。この演算子は、反転させるビット数 k をべき則分布から選択することで、まれな大規模なジャンプを可能にする。本稿では、pmut_β を用いた (1+1) EA が、任意の非負の部分加法的関数およびマトロイド制約下での対称部分加法的関数について、多項式時間で (1/3)-近似解を得られることを証明している。実世界のインスタンスにおいて、一様変異および動的変異スキームに比べて優れた性能を示している。

ABSTRACT

A core feature of evolutionary algorithms is their mutation operator. Recently, much attention has been devoted to the study of mutation operators with dynamic and non-uniform mutation rates. Following up on this line of work, we propose a new mutation operator and analyze its performance on the (1+1) Evolutionary Algorithm (EA). Our analyses show that this mutation operator competes with pre-existing ones, when used by the (1+1) EA on classes of problems for which results on the other mutation operators are available. We show that the (1+1) EA using our mutation operator finds a (1/3)-approximation ratio on any non-negative submodular function in polynomial time. We also consider the problem of maximizing a symmetric submodular function under a single matroid constraint and show that the (1+1) EA using our operator finds a (1/3)-approximation within polynomial time. This performance matches that of combinatorial local search algorithms specifically designed to solve these problems and outperforms them with constant probability. Finally, we evaluate the performance of the (1+1)EA using our operator experimentally by considering two applications: (a) the maximum directed cut problem on real-world graphs of different origins, and with up to 6.6 million vertices and 56 million edges and (b) the symmetric mutual information problem using a four month period air pollution data set. In comparison with uniform mutation and a recently proposed dynamic scheme our operator comes out on top on these instances.

研究の動機と目的

• 非線形で複雑な最適化ランドスケープにおいて、単純なユニモーダル関数を超える (1+1) EA の性能を向上させる変異演算子の設計。
• 局所最適解の吸引領域や大スケールのハミング距離における局所最適解を効果的に探索するための、静的および動的変異率の限界の解消。
• マトロイド制約下での部分加法的関数クラスに対して、新しい変異演算子を用いた (1+1) EA の理論的性能の分析。
• 最大有向カットおよび大気汚染データにおける特徴選択を含む、実世界の応用における新規演算子の実験的有効性の評価。

提案手法

• k ∈ {1,…,n} をべき則分布から選択し、現在の解のうちランダムに選ばれた k ビットを反転させる pmut_β と呼ばれる変異演算子を提案。
• k にべき則分布を用いることで、従来の動的スキームに比べて大規模なジャンプ（例：>n/2）の発生確率を高める。
• 人工的ランドスケープ（OneMax 関数およびジャンプ関数など）に対して (1+1) EA と pmut_β を分析し、多項式時間の実行時間バウンドを確立。
• マトロイド制約下での非負の部分加法的関数および対称部分加法的関数の最大化に (1+1) EA と pmut_β を適用。
• 大規模なグラフにおける最大有向カットおよび 4 ヶ月分の大気汚染データにおける対称相互情報量特徴選択という 2 つの実世界問題に対して、性能を実験的に評価。
• 複数の時間予算および基数制約の下で、pmut_β と一様変異および fmut_β 演算子（異なる β 値）を比較。

実験結果

リサーチクエスチョン

• RQ1 重尾型変異演算子は、一様変異および動的変異スキームに比べて、非負の部分加法的関数に対する (1+1) EA の性能を向上させることができるか？
• RQ2 (1+1) EA が pmut_β を用いることで、マトロイド制約下の対称部分加法的関数について多項式時間で (1/3)-近似解を得られるか？
• RQ3 大規模な実世界のグラフおよび特徴選択問題において、pmut_β の性能は一様変異および fmut_β 変異演算子と比べてどのように異なるか？
• RQ4 時間予算や問題サイズなどのどのような条件下で、重尾型変異演算子が標準的な変異戦略に比べて顕著な優位性を示すか？

主な発見

• (1+1) EA が pmut_β を用いることで、任意の非負の部分加法的関数について多項式時間で (1/3)-近似解が得られる。
• マトロイド制約下の対称部分加法的関数に対して、(1+1) EA が pmut_β を用いることで多項式時間で (1/3)-近似解が得られ、既知の最良の組み合わせ的局所探索アルゴリズムと同等の性能を達成する。
• 最大有向カット問題において、pmut_β は、最大 660 万頂点および 5600 万エッジを有する実世界のグラフにおいて、一様変異および fmut_β に比べて優れた性能を示した。
• 4 ヶ月分の大気汚染データにおける対称相互情報量特徴選択タスクにおいて、pmut_β は小さな時間予算および小さな基数制約下でも優れた解品質を達成した。
• 小さな時間予算および小さな k の場合、pmut_β は一様変異および fmut_β に比べて顕著に優れており、特に局所最適解からの脱出に大規模なジャンプが有効な状況で顕著な優位性を示した。
• 時間予算が増加するにつれて、性能の差が縮小する傾向にあり、十分な評価回数が確保できる場合には標準的な変異戦略でも十分である可能性を示唆している。