[论文解读] Novel Analysis of Population Scalability in Evolutionary Algorithms

Jun He, Tianshi Chen+1 more|arXiv (Cornell University)|Aug 23, 2011

Metaheuristic Optimization Algorithms Research参考文献 39被引用 4

一句话总结

本文提出了一种基于谱半径的新型分析方法，利用吸收性马尔可夫链的基本矩阵，研究精英策略进化算法中的种群可扩展性。结果表明，尽管更大的种群规模始终能提高平均收敛速度，但有时反而会增加找到最优解的期望时间；同时，本文建立了在‘可连通’适应度景观上出现超线性可扩展性（即改善速度超过线性）的条件，尤其在‘可连通’适应度景观上表现显著。

ABSTRACT

Population-based evolutionary algorithms (EAs) have been widely applied to solve various optimization problems. The question of how the performance of a population-based EA depends on the population size arises naturally. The performance of an EA may be evaluated by different measures, such as the average convergence rate to the optimal set per generation or the expected number of generations to encounter an optimal solution for the first time. Population scalability is the performance ratio between a benchmark EA and another EA using identical genetic operators but a larger population size. Although intuitively the performance of an EA may improve if its population size increases, currently there exist only a few case studies for simple fitness functions. This paper aims at providing a general study for discrete optimisation. A novel approach is introduced to analyse population scalability using the fundamental matrix. The following two contributions summarize the major results of the current article. (1) We demonstrate rigorously that for elitist EAs with identical global mutation, using a lager population size always increases the average rate of convergence to the optimal set; and yet, sometimes, the expected number of generations needed to find an optimal solution (measured by either the maximal value or the average value) may increase, rather than decrease. (2) We establish sufficient and/or necessary conditions for the superlinear scalability, that is, when the average convergence rate of a $(μ+μ)$ EA (where $μ\ge2$) is bigger than $μ$ times that of a $(1+1)$ EA.

研究动机与目标

• 为了严格分析种群规模对进化算法性能的影响，超越经验直觉。
• 为解决一个悖论：即尽管收敛速度提高，更大的种群却可能增加找到最优解的期望时间。
• 建立适用于 $(\mu+\mu)$ EAs 相较于 $(1+1)$ EAs 的、普遍且数学严谨的超线性可扩展性条件。
• 通过基本矩阵的谱半径形式化种群可扩展性，实现不同种群规模之间的理论比较。
• 阐明可扩展性是实例相关的，并非在所有优化问题上都普遍适用。

提出的方法

• 将精英策略 EAs 建模为吸收性马尔可夫链，以捕捉瞬态状态和吸收态。
• 使用基本矩阵 $\mathbf{N}$ 表示在吸收至最优解集之前对瞬态状态的期望访问次数。
• 通过谱半径之比 $\rho(\mathbf{N}^{(1)}) / \rho(\mathbf{N}^{(\mu)})$ 定义种群可扩展性，其中 $\rho(\mathbf{N})$ 反映平均收敛速度。
• 证明 $1/\rho(\mathbf{N})$ 等于收敛至最优解集的平均收敛速率。
• 基于搜索空间中‘通过桥梁的路径’的通过概率，推导出超线性可扩展性的充分必要条件。
• 将该框架应用于两个案例研究：一个针对不可连通景观（无超线性可扩展性），另一个针对可连通景观（可能实现超线性可扩展性）。

实验结果

研究问题

• RQ1 在何种条件下，增加种群规模会导致精英策略 EAs 在平均收敛速率上出现超线性可扩展性？
• RQ2 为何更大的种群规模有时反而会增加找到最优解的期望代数，与普遍直觉相反？
• RQ3 当不同规模 EAs 的基本矩阵维度不同时，如何正式定义并度量种群可扩展性？
• RQ4 适应度景观的‘可连通性’在促进或阻止超线性可扩展性方面起到何种作用？
• RQ5 基本矩阵的谱半径能否作为评估多样化进化算法中种群可扩展性的稳健且通用的度量？

主要发现

• 在全局突变相同的情况下，更大的种群规模始终能提高精英策略 EAs 收敛至最优解集的平均收敛速率，这归因于基本矩阵的谱半径。
• 尽管收敛速率得到改善，但更大的种群规模可能导致找到最优解的期望代数增加，与‘越大越好’的普遍直觉相悖。
• 只有当搜索空间中‘通过桥梁的路径’的通过概率足够高时，超线性可扩展性——即 $(\mu+\mu)$ EA 的收敛速率超过 $(1+1)$ EA 的 $\mu$ 倍——才可能发生。
• 在不可连通适应度景观上，$(\mu+\mu)$ EA 的平均收敛速率永远不会超过 $(1+1)$ EA 的 $\mu$ 倍。
• 谱半径 $\rho(\mathbf{N})$ 作为与瞬态状态期望访问次数相关的‘最大最小’度量，为可扩展性分析提供了理论基础。
• 所提出的框架表明，种群可扩展性并非在所有问题实例中都一致，例如在 0-1 背包问题中，某些实例可能具有可扩展性，而另一些则没有。