[论文解读] Qualities, challenges and future of genetic algorithms: a literature review

Aymeric Vié, Kleinnijenhuis, Alissa M.+1 more|arXiv (Cornell University)|Nov 5, 2020

Metaheuristic Optimization Algorithms Research参考文献 140被引用 14

一句话总结

本篇文献综述综合了遗传算法（GAs）的最新进展，分析其在探索复杂、崎岖搜索空间以及解决高维优化问题方面的优势，同时识别出计算成本、参数调优和解表示方面的核心挑战。综述还强调了GPU加速、自适应参数控制以及生物启发式表示等新兴解决方案，将GAs定位为实现开放-ended演化和通用人工智能的关键推动者。

ABSTRACT

Genetic algorithms, computer programs that simulate natural evolution, are increasingly applied across many disciplines. They have been used to solve various optimisation problems from neural network architecture search to strategic games, and to model phenomena of adaptation and learning. Expertise on the qualities and drawbacks of this technique is largely scattered across the literature or former, motivating an compilation of this knowledge at the light of the most recent developments of the field. In this review, we present genetic algorithms, their qualities, limitations and challenges, as well as some future development perspectives. Genetic algorithms are capable of exploring large and complex spaces of possible solutions, to quickly locate promising elements, and provide an adequate modelling tool to describe evolutionary systems, from games to economies. They however suffer from high computation costs, difficult parameter configuration, and crucial representation of the solutions. Recent developments such as GPU, parallel and quantum computing, conception of powerful parameter control methods, and novel approaches in representation strategies, may be keys to overcome those limitations. This compiling review aims at informing practitioners and newcomers in the field alike in their genetic algorithm research, and at outlining promising avenues for future research. It highlights the potential for interdisciplinary research associating genetic algorithms to pulse original discoveries in social sciences, open ended evolution, artificial life and AI.

研究动机与目标

• 将关于遗传算法（GA）特性、局限性及近期进展的零散知识整合为一个统一、最新的资源。
• 识别GA应用中持续存在的挑战，包括高计算成本、参数配置困难以及解表示不足。
• 探讨新兴技术（如GPU计算、量子计算及自适应参数控制）如何克服这些局限。
• 突出GA在优化之外的潜力，特别是在建模开放-ended演化、涌现现象和人工生命方面的应用。
• 倡导将GA与社会科学、人工智能及进化理论相结合的跨学科研究，以推动通用智能与自适应系统领域的全新发现。

提出的方法

• 系统性回顾1975年至2021年间的同行评审文献和技术报告，聚焦遗传算法的核心原理、应用与挑战。
• 对GA组件进行分类：基于种群的搜索、遗传表示、适应度评估、选择、交叉与变异算子。
• 利用实证与理论证据，分析GA在不同领域（神经架构搜索、多目标优化、遗传编程及经济建模）中的表现。
• 考察近期创新：GPU加速演化、协同进化策略，以及整合生物现象（如基因重复与上位性）的结构化GAs。
• 探索参数控制机制，包括自适应与动态调优，以减轻人工配置负担。
• 综合理论框架，将GAs与数学遗传学及统计力学相联系，以增进对算子行为与收敛动力学的理解。

实验结果

研究问题

• RQ1 是什么关键特性使遗传算法在探索大规模、复杂搜索空间方面表现有效？
• RQ2 尽管遗传算法具有广泛适用性，为何在计算效率与参数配置方面仍面临持久挑战？
• RQ3 新型表示策略与生物真实性（如上位性、多效性、基因调控）如何提升GAs的适应性与性能？
• RQ4 硬件进步（如GPU、量子计算）与算法设计创新（如自适应参数、协同进化）在多大程度上可克服当前局限？
• RQ5 遗传算法能否作为基础，构建开放-ended、自我改进的系统，以生成新颖且复杂的发现——特别是在追求通用人工智能的进程中？

主要发现

• 遗传算法通过在探索与开发之间保持平衡，能够有效探索大规模、崎岖且多峰的搜索空间，即使在适应度景观不明确的情况下，也常能定位全局最优解。
• GAs在演化神经网络架构以及求解多目标优化问题方面表现出色，在高维、稀疏或不可微空间中，其性能优于传统基于梯度的方法。
• 将基因重复、易位及调控网络等生物启发机制整合到结构化遗传算法中，显著增强了其演化复杂、自适应系统的能力。
• GPU计算与并行化的最新进展显著降低了计算成本，实现了更快的收敛速度与更大规模的演化实验。
• 自适应参数控制与协同进化策略减少了对人工调参的依赖，并提升了在多样化问题领域中的鲁棒性。
• GAs中开放-ended、发散的演化过程可能促进可演化性与新颖性的内生演化，使其成为实现通用人工智能与自主发现系统的一条可行路径。