[论文解读] Evolutionary Algorithms and Submodular Functions: Benefits of Heavy-Tailed Mutations

Tobias Friedrich, Andreas Göbel+2 more|arXiv (Cornell University)|May 28, 2018

Metaheuristic Optimization Algorithms Research被引用 8

一句话总结

本文为(1+1)进化算法提出了一种新的重尾突变算子 pmut_β，该算子从幂律分布中选择翻转的位数，从而实现罕见的大规模跳跃。证明表明，使用 pmut_β 的(1+1) EA 可在多项式时间内实现对任意非负子模函数以及在拟阵约束下的对称子模函数的(1/3)-近似，优于均匀和动态突变方案在真实世界实例上的表现。

ABSTRACT

A core feature of evolutionary algorithms is their mutation operator. Recently, much attention has been devoted to the study of mutation operators with dynamic and non-uniform mutation rates. Following up on this line of work, we propose a new mutation operator and analyze its performance on the (1+1) Evolutionary Algorithm (EA). Our analyses show that this mutation operator competes with pre-existing ones, when used by the (1+1) EA on classes of problems for which results on the other mutation operators are available. We show that the (1+1) EA using our mutation operator finds a (1/3)-approximation ratio on any non-negative submodular function in polynomial time. We also consider the problem of maximizing a symmetric submodular function under a single matroid constraint and show that the (1+1) EA using our operator finds a (1/3)-approximation within polynomial time. This performance matches that of combinatorial local search algorithms specifically designed to solve these problems and outperforms them with constant probability. Finally, we evaluate the performance of the (1+1)EA using our operator experimentally by considering two applications: (a) the maximum directed cut problem on real-world graphs of different origins, and with up to 6.6 million vertices and 56 million edges and (b) the symmetric mutual information problem using a four month period air pollution data set. In comparison with uniform mutation and a recently proposed dynamic scheme our operator comes out on top on these instances.

研究动机与目标

• 设计一种突变算子，以提升(1+1) EA 在复杂、非线性优化景观上的性能，超越简单单峰函数的优化。
• 解决静态和动态突变率在穿越欺骗性吸引盆和大汉明距离局部最优解时的局限性。
• 分析(1+1) EA 使用新突变算子在有约束和无约束子模函数类上的理论性能。
• 在最大有向割和空气污染数据中的特征选择等真实世界应用中，评估新算子的实证有效性。

提出的方法

• 提出 pmut_β，一种突变算子，从幂律分布中选择 k ∈ {1,…,n}，并随机翻转当前解中的 k 个位。
• 使用幂律分布选择 k，以提高大跳跃（如 >n/2）的概率，优于以往的动态方案。
• 在人工景观（包括 OneMax 和跳跃函数）上分析使用 pmut_β 的(1+1) EA，以建立多项式时间复杂度界限。
• 将使用 pmut_β 的(1+1) EA 应用于在拟阵约束下最大化非负子模函数和对称子模函数。
• 在两个真实世界问题上实证评估性能：大规模图上的最大有向割问题，以及为期4个月的空气污染数据集上的对称互信息特征选择。
• 在多个时间预算和基数约束下，将 pmut_β 与均匀突变和不同 β 值的 fmut_β 算子进行比较。

实验结果

研究问题

• RQ1 与均匀和动态突变方案相比，重尾突变算子能否提升(1+1) EA 在非负子模函数上的性能？
• RQ2 使用 pmut_β 的(1+1) EA 是否能在多项式时间内实现对拟阵约束下对称子模函数的(1/3)-近似？
• RQ3 在大规模真实世界图和特征选择问题上，pmut_β 的性能与均匀突变和 fmut_β 算子相比如何？
• RQ4 在何种条件下（如时间预算、问题规模）重尾突变算子相比标准突变策略具有显著优势？

主要发现

• 使用 pmut_β 的(1+1) EA 可在多项式时间内实现对任意非负子模函数的(1/3)-近似。
• 对于在拟阵约束下的对称子模函数，使用 pmut_β 的(1+1) EA 在多项式时间内找到(1/3)-近似解，与目前已知的最佳组合局部搜索算法性能相当。
• 在最大有向割问题上，pmut_β 在包含最多660万个顶点和5600万条边的真实世界图上，优于均匀突变和 fmut_β。
• 在为期4个月的空气污染数据集上的对称互信息特征选择任务中，pmut_β 在小时间预算和小基数约束下实现了更优的解质量。
• 在小时间预算和小 k 值下，pmut_β 显著优于均匀突变和 fmut_β，尤其在需要大跳跃以逃离局部最优解时表现更优。
• 随着时间预算增加，性能差异减小，表明在评估次数足够多时，标准突变策略可能已足够。