[论文解读] DXNN Platform: The Shedding of Biological Inefficiencies

Gene I. Sher|arXiv (Cornell University)|Nov 28, 2010

Evolutionary Algorithms and Applications参考文献 9被引用 9

一句话总结

本文提出DXNN，一种新颖的膜因式TWEANN平台，通过基于元组的编码、双阶段进化过程、针对性调优以及随机强度突变（RIM），消除了神经进化中的生物低效性，在基准任务上实现了更快的收敛速度，获得了紧凑且高性能的神经网络，并在机器人和人工生命模拟中展现出卓越的多样性与可扩展性。

ABSTRACT

This paper introduces a novel type of memetic algorithm based Topology and Weight Evolving Artificial Neural Network (TWEANN) system called DX Neural Network (DXNN). DXNN implements a number of interesting features, amongst which is: a simple and database friendly tuple based encoding method, a 2 phase neuroevolutionary approach aimed at removing the need for speciation due to its intrinsic population diversification effects, a new "Targeted Tuning Phase" aimed at dealing with "the curse of dimensionality", and a new Random Intensity Mutation (RIM) method that removes the need for crossover algorithms. The paper will discuss DXNN's architecture, mutation operators, and its built in feature selection method that allows for the evolved systems to expand and incorporate new sensors and actuators. I then compare DXNN to other state of the art TWEANNs on the standard double pole balancing benchmark, and demonstrate its superior ability to evolve highly compact solutions faster than its competitors. Then a set of oblation experiments is performed to demonstrate how each feature of DXNN effects its performance, followed by a set of experiments which demonstrate the platform's ability to create NN populations with exceptionally high diversity profiles. Finally, DXNN is used to evolve artificial robots in a set of two dimensional open-ended food gathering and predator-prey simulations, demonstrating the system's ability to produce ever more complex Neural Networks, and the system's applicability to the domain of robotics, artificial life, and coevolution.

研究动机与目标

• 为解决传统神经进化系统中固有的低效性，特别是对分种和交叉的依赖。
• 降低在高维搜索空间中进化人工神经网络时常见的维度灾难问题。
• 通过内置的特征选择机制，实现在进化过程中动态扩展神经网络以支持新传感器和执行器。
• 开发一种可扩展、数据库友好的框架，用于在机器人和人工生命背景下进化紧凑、多样且高性能的神经网络。

提出的方法

• 采用基于元组的编码方案，简单且数据库友好，可高效存储和检索网络配置。
• 采用双阶段神经进化方法：首先进化网络拓扑和权重，然后应用针对性调优阶段以优化解决方案。
• 引入随机强度突变（RIM），一种突变算子，通过消除对交叉的依赖，实现无需重组的有效探索。
• 集成内置的特征选择机制，支持在进化过程中动态添加传感器和执行器。
• 利用种群多样性作为双阶段过程的自然副产品，降低对分种以维持多样性的依赖。
• 应用针对性调优阶段，集中优化高影响力参数，缓解维度灾难问题。

实验结果

研究问题

• RQ1 神经进化系统是否能在不使用交叉或分种的情况下，比最先进TWEANN更快地进化出紧凑且高性能的神经网络？
• RQ2 引入针对性调优阶段后，对高维搜索空间中的收敛速度和解质量有何影响？
• RQ3 与基于传统交叉的方法相比，RIM突变算子在多大程度上保持了种群多样性并实现了有效探索？
• RQ4 DXNN平台是否能在进化过程中动态扩展网络架构以整合新传感器和执行器，同时保持性能？
• RQ5 在人工生命和机器人模拟（如食物收集和捕食者-猎物动态）中，DXNN在进化复杂、开放-ended行为方面的有效性如何？

主要发现

• DXNN在双极平衡基准任务中比竞争性TWEANN更快地进化出高度紧凑的解决方案，表现出更优的收敛速度。
• 双阶段进化过程自然生成了多样性极高的种群，显著降低了对显式分种的依赖。
• 消融研究证实，RIM、针对性调优和双阶段结构的每一项组件均对性能提升有显著贡献。
• 该平台成功进化出可在2D开放-ended模拟中执行复杂自适应行为的人工机器人，包括食物收集和捕食者-猎物互动。
• 基于元组的编码实现了高效的数据库存储与检索，支持大规模进化实验中的可扩展性与可复现性。
• 该系统在协同进化和人工生命环境中表现出可扩展性和鲁棒性，能够随时间演化出日益复杂的神经网络。