[论文解读] On some extensions to GA package: hybrid optimisation, parallelisation and islands evolution

Luca Scrucca|arXiv (Cornell University)|May 6, 2016

Parallel Computing and Optimization Techniques参考文献 15被引用 74

一句话总结

该论文通过集成局部搜索以实现更快收敛，并采用主从和岛屿演化模型实现并行化，扩展了R的GA包，引入了混合遗传算法。混合与岛屿变体显著提升了在Griewank等多峰基准函数上的解的精度与速度，其中HGAISL方法在4000次重复实验中成功运行了3954次。

ABSTRACT

Genetic algorithms are stochastic iterative algorithms in which a population of individuals evolve by emulating the process of biological evolution and natural selection. The R package GA provides a collection of general purpose functions for optimisation using genetic algorithms. This paper describes some enhancements recently introduced in version 3 of the package. In particular, hybrid GAs have been implemented by including the option to perform local searches during the evolution. This allows to combine the power of genetic algorithms with the speed of a local optimiser. Another major improvement is the provision of facilities for parallel computing. Parallelisation has been implemented using both the master-slave approach and the islands evolution model. Several examples of usage are presented, with both real-world data examples and benchmark functions, showing that often high-quality solutions can be obtained more efficiently.

研究动机与目标

• 通过集成局部搜索策略，提升R中遗传算法优化的效率与精度。
• 通过主从和岛屿演化架构，实现遗传算法的并行执行。
• 评估增强型GA变体在真实世界和基准优化问题上的性能。
• 通过混合与并行计算扩展，减少计算时间并提升解的质量。

提出的方法

• 通过在每代之后引入局部搜索过程，实现混合遗传算法，以优化有希望的解。
• 通过主从模型实现并行化，将适应度评估分配到多个处理器或节点上。
• 岛屿演化模型在不同的“岛屿”上独立运行子种群，并定期在它们之间迁移个体以维持多样性。
• 扩展GA包以支持实值和离散优化问题，包括二进制、整数和排列变量。
• 在利用R现有框架的同时，支持与Rcpp的集成，为未来性能提升提供可能。
• 建议使用记忆化技术缓存计算成本较高的适应度函数调用，尤其在二进制GA应用中具有显著优势。

实验结果

研究问题

• RQ1 在R的GA包中，将局部搜索集成到遗传算法中，如何提升收敛速度与解的精度？
• RQ2 通过主从和岛屿演化模型实现并行化，在遗传算法优化中能带来多大的性能提升？
• RQ3 在Griewank等多峰基准函数上，混合与岛屿基GA变体与标准GA相比表现如何？
• RQ4 混合与并行化结合是否能显著减少计算时间并提升解的质量？
• RQ5 新GA扩展在真实世界数据（如医院手术死亡率估计）上的性能提升程度如何？

主要发现

• 混合GA（HGA）在Griewank函数上4000次重复实验中成功运行3717次，在18种方法中精度排名第二。
• 混合岛屿GA（HGAISL）达到最高精度，成功运行3954次，优于基准研究中所有其他方法。
• 结合局部搜索的岛屿演化模型降低了解的离散度，并提升了在复杂多峰函数上的收敛稳定性。
• 通过主从和岛屿模型实现的并行化显著减少了计算时间，尤其在适应度计算密集型问题上效果明显。
• 在混合GA中集成局部搜索，使算法在局部二次区域实现更快收敛，克服了标准GA的关键局限。
• 所提出的扩展在真实世界数据上表现优异，例如在95%置信区间内成功估计医院死亡率。