[论文解读] The Ant Swarm Neuro-Evolution Procedure for Optimizing Recurrent Networks

AbdElRahman ElSaid, Alexander G. Ororbia+1 more|ArXiv.org|Sep 26, 2019

Advanced Memory and Neural Computing参考文献 31被引用 6

一句话总结

本文提出了一种名为蚁群神经演化（ASNE）的新颖神经演化算法，受蚁群优化启发，用于自动设计稀疏且高性能的循环神经网络（RNN）拓扑结构，以实现时间序列预测。通过使用专门的蚁群代理、动态信息素正则化（模拟L1/L2正则化）以及拉马克式权重初始化策略，ASNE在真实世界火电厂数据集上的表现优于NEAT和先前的最先进方法，测试均方根误差（RMSE）达到0.03286。

ABSTRACT

Hand-crafting effective and efficient structures for recurrent neural networks (RNNs) is a difficult, expensive, and time-consuming process. To address this challenge, we propose a novel neuro-evolution algorithm based on ant colony optimization (ACO), called ant swarm neuro-evolution (ASNE), for directly optimizing RNN topologies. The procedure selects from multiple modern recurrent cell types such as Delta-RNN, GRU, LSTM, MGU and UGRNN cells, as well as recurrent connections which may span multiple layers and/or steps of time. In order to introduce an inductive bias that encourages the formation of sparser synaptic connectivity patterns, we investigate several variations of the core algorithm. We do so primarily by formulating different functions that drive the underlying pheromone simulation process (which mimic L1 and L2 regularization in standard machine learning) as well as by introducing ant agents with specialized roles (inspired by how real ant colonies operate), i.e., explorer ants that construct the initial feed forward structure and social ants which select nodes from the feed forward connections to subsequently craft recurrent memory structures. We also incorporate a Lamarckian strategy for weight initialization which reduces the number of backpropagation epochs required to locally train candidate RNNs, speeding up the neuro-evolution process. Our results demonstrate that the sparser RNNs evolved by ASNE significantly outperform traditional one and two layer architectures consisting of modern memory cells, as well as the well-known NEAT algorithm. Furthermore, we improve upon prior state-of-the-art results on the time series dataset utilized in our experiments.

研究动机与目标

• 为解决手动设计高效且有效的RNN架构所面临的挑战，该过程耗时且复杂。
• 通过一种受自然启发的元启发式方法，自动化发现最优RNN拓扑结构，包括跨层和时间步的循环连接。
• 通过基于信息素的正则化方法，促进更稀疏的突触连接模式，从而提升泛化能力和效率。
• 通过引入拉马克式权重初始化策略，减少反向传播所需周期数，从而加速收敛。
• 在真实世界的时间序列预测任务中，超越现有的神经演化方法（如NEAT和EXAMM）

提出的方法

• ASNE采用多智能体蚁群系统，其中‘探索蚁’构建初始前馈结构，而‘社会蚁’构建循环记忆连接。
• 该算法使用动态信息素更新函数，模拟L1和L2正则化，以偏好更稀疏、更具泛化能力的RNN拓扑结构。
• 评估了不同的信息素衰减与沉积策略，以引导群体向高性能、稀疏的架构收敛。
• 通过专门的蚁群角色（探索蚁与社会蚁）模块化拓扑构建过程，提升了搜索效率与解的质量。
• 采用拉马克式遗传策略，基于父代网络性能初始化网络权重，从而减少每个候选网络的训练时间。
• 该方法在真实世界燃煤电厂时间序列数据集上进行了评估，共训练超过3200万个RNN，完成1600次实验。

实验结果

研究问题

• RQ1 基于蚁群优化的受自然启发的元启发式方法，能否有效探索RNN拓扑结构的庞大组合空间？
• RQ2 引入基于信息素的正则化（类比L1/L2）是否能生成更稀疏、更具泛化能力的RNN架构？
• RQ3 专门的蚁群代理（探索蚁与社会蚁）是否能提升RNN拓扑发现的质量与效率？
• RQ4 拉马克式权重初始化策略是否能显著减少每个候选网络所需的反向传播周期数？
• RQ5 ASNE能否在时间序列预测基准上超越已确立的神经演化方法（如NEAT和EXAMM）？

主要发现

• ASNE在火电厂时间序列数据集上实现了0.03286的测试均方根误差（RMSE），显著优于先前最先进结果0.03493。
• 表现最佳的ASNE配置‘Φ.9 -L1.65- 2Ant_{20} -1J-ExpBkd’在10次运行中，测试RMSE为0.03286，平均值为0.03356，标准偏差为0.00452。
• ASNE显著优于NEAT和EXAMM，后者曾在此数据集上保持最佳结果，证明其在泛化能力和架构质量上的优越性。
• 使用专门的蚁群代理（探索蚁与社会蚁）相比同质蚁群，显著提升了拓扑搜索的有效性与效率。
• 拉马克式权重初始化策略减少了每个候选网络所需的反向传播周期数，从而加速了整体神经演化过程。
• 消融研究证实，信息素正则化函数（类L1/L2）在发现稀疏且高性能架构方面具有关键作用。