[论文解读] Neuroevolution in Deep Neural Networks: Current Trends and Future Challenges

Edgar Galván, Peter Mooney|arXiv (Cornell University)|Jun 9, 2020

Evolutionary Algorithms and Applications参考文献 170被引用 172

一句话总结

本文对深度神经网络（DNNs）中的神经进化进行了全面综述，评估了进化算法（EAs）在自动化网络结构搜索与训练中的应用。文章识别出关键趋势、挑战与未来研究方向，强调EAs作为强化学习的计算高效替代方案，在提升DNN性能与实际应用中自动化方面具有巨大潜力。

ABSTRACT

A variety of methods have been applied to the architectural configuration and learning or training of artificial deep neural networks (DNN). These methods play a crucial role in the success or failure of the DNN for most problems and applications. Evolutionary Algorithms (EAs) are gaining momentum as a computationally feasible method for the automated optimisation and training of DNNs. Neuroevolution is a term which describes these processes of automated configuration and training of DNNs using EAs. While many works exist in the literature, no comprehensive surveys currently exist focusing exclusively on the strengths and limitations of using neuroevolution approaches in DNNs. Prolonged absence of such surveys can lead to a disjointed and fragmented field preventing DNNs researchers potentially adopting neuroevolutionary methods in their own research, resulting in lost opportunities for improving performance and wider application within real-world deep learning problems. This paper presents a comprehensive survey, discussion and evaluation of the state-of-the-art works on using EAs for architectural configuration and training of DNNs. Based on this survey, the paper highlights the most pertinent current issues and challenges in neuroevolution and identifies multiple promising future research directions.

研究动机与目标

• 为解决神经进化研究的碎片化状态，提供一份聚焦于深度神经网络（DNN）结构配置与训练中进化算法（EAs）的统一、全面综述。
• 识别并分析基于EA的神经进化在DNN中的优势、局限性与当前挑战，尤其与强化学习及其他超参数优化方法进行对比。
• 突出神经进化的计算优势，如相比强化学习可显著减少训练时间，并强调其在现实世界深度学习应用中更广泛应用的潜力。
• 倡导在神经进化领域建立标准化基准测试与可复现研究，以实现公平比较与领域进展。
• 识别未来最具前景的研究方向，包括改进的遗传算子、标准化评估协议，以及拓展至图像分类以外的新应用领域。

提出的方法

• 通过多个数据库（arXiv、IEEE Xplore、ACM、Google Scholar等）进行广泛文献调研，识别并分析基于EA的DNN网络结构搜索与训练的前沿工作。
• 根据其表示方式（如基于权重、基于结构）、进化范式（如遗传算法、进化策略、拓扑增强神经进化）及训练策略，对基于EA的方法进行分类与评估。
• 回顾并对比神经进化中使用的各类深度学习架构，包括卷积神经网络（CNNs）、自编码器（AEs）、深度置信网络（DBNs）、限制玻尔兹曼机（RBMs）及循环神经网络（RNNs）。
• 分析选择、变异与交叉等EA组件在DNN神经进化中的性能与收敛性影响，强调设计良好遗传算子的必要性。
• 评估常用于神经进化研究的基准数据集（如MNIST、CIFAR-10、ILSVRC2012），以评估可复现性与标准化程度。
• 讨论公开、可获取数据集的重要性，以及专有或非标准化数据带来的跨研究结果比较困难的问题。

实验结果

研究问题

• RQ1 在深度神经网络的结构搜索与训练中，使用进化算法的当前趋势与主流方法是什么？
• RQ2 在DNN结构搜索中，基于EA的神经进化方法在性能与计算效率方面与基于强化学习的方法相比如何？
• RQ3 在表示方式、可扩展性与可复现性方面，将神经进化应用于DNN时面临的关键挑战与局限性是什么？
• RQ4 为何神经进化研究缺乏标准化基准测试？这如何阻碍研究进展与跨研究的公平比较？
• RQ5 在拓展至图像分类任务之外的背景下，哪些未来研究方向最有可能推动深度学习中神经进化的发展？

主要发现

• 基于EAs的神经进化在DNN结构搜索与训练中表现出具有竞争力的性能，通常比强化学习方法所需计算时间更少。
• 进化算法在处理DNN超参数与结构优化中常见的复杂、非线性及不连续搜索空间方面尤为有效。
• 尽管兴趣日益增长，该领域仍缺乏标准化的基准测试协议与公开可用的数据集，导致研究间比较不一致且可复现性降低。
• 本文指出，亟需在神经进化中开展标准化科学研究，以隔离特定EA组件（如表示方式、算子、学习类型）对性能的影响。
• MNIST、CIFAR-10与ILSVRC2012等常用数据集在神经进化研究中被广泛采用，但其应用范围有限，限制了评估仅限于视觉相关任务。
• 未来研究应优先开发超越图像分类任务的领域特定基准，并推动开放、共享数据集的建立，以实现对神经进化技术的公平且可复现的评估。