[论文解读] The Case for a Mixed-Initiative Collaborative Neuroevolution Approach

Sebastian Risi, Jinhong Zhang+5 more|arXiv (Cornell University)|Aug 5, 2014

Advanced Memory and Neural Computing参考文献 16被引用 3

一句话总结

本文提出了一种混合主动性协作神经演化框架，通过整合人类直觉与计算演化，以设计复杂的人工神经网络（ANN）。通过使用CPPN-Compiler编码人类提供的结构规律（例如对称性、重复性），该系统实现了无缝协作，用户可交替选择演化出的网络或直接编辑网络拓扑，显著提升了ANN构建过程中的设计效率与创造力。

ABSTRACT

It is clear that the current attempts at using algorithms to create artificial neural networks have had mixed success at best when it comes to creating large networks and/or complex behavior. This should not be unexpected, as creating an artificial brain is essentially a design problem. Human design ingenuity still surpasses computational design for most tasks in most domains, including architecture, game design, and authoring literary fiction. This leads us to ask which the best way is to combine human and machine design capacities when it comes to designing artificial brains. Both of them have their strengths and weaknesses; for example, humans are much too slow to manually specify thousands of neurons, let alone the billions of neurons that go into a human brain, but on the other hand they can rely on a vast repository of common-sense understanding and design heuristics that can help them perform a much better guided search in design space than an algorithm. Therefore, in this paper we argue for a mixed-initiative approach for collaborative online brain building and present first results towards this goal.

研究动机与目标

• 为解决纯算法化神经演化在设计大规模、复杂ANN时的局限性，通过整合人类设计洞察来实现改进。
• 通过人类引导的交互式演化，克服演化算法中欺骗性适应度景观与搜索空间爆炸的挑战。
• 开发一种协作框架，使人类与机器在设计ANN过程中交替主导，充分发挥互补优势。
• 探索如何通过CPPN-Compiler编码并演化人类标注的结构规律（例如对称性），以实现有意义的网络变异。
• 通过混合系统支持交互选择与直接设计编辑，实现可扩展、在线、协作式的脑部构建。

提出的方法

• 使用组合模式生成网络（CPPN）作为紧凑、生成性的基因型表示，用于编码复杂的ANN拓扑结构。
• 采用CPPN-Compiler将高层次的人类标注（例如对称性、重复性）转化为CPPN基因型，嵌入特定领域的结构规律。
• 支持混合主动性交互：用户可选择演化出的ANN，或直接编辑网络结构，表型变化可编译回基因型。
• 整合新颖性搜索与交互式演化计算（IEC），以避免陷入局部最优，并减轻用户在选择任务中的疲劳感。
• 在BrainCrafter中使用实时仿真，可视化机器人行为，使用户能即时获知结构变化的影响。
• 通过众包协作机制，允许用户基于他人创建的高分解决方案进行改进与扩展。

实验结果

研究问题

• RQ1 当在线协作时，人类用户能否有效设计用于控制任务的复杂ANN？他们自然识别出哪些结构模式？
• RQ2 人类识别的规律（例如对称性、重复性）在多大程度上提升了演化出的ANN的效率与质量？
• RQ3 CPPN-Compiler在多大程度上能够编码并传播人类提供的设计启发式规则，生成有意义的ANN变体？
• RQ4 人类与机器交替主导的机制在多大程度上提升了复杂、具有欺骗性的适应度景观中ANN演化的探索能力？
• RQ5 混合主动性系统在设计大规模、行为复杂的ANN时，是否能显著优于完全自动化或完全交互式的方法？

主要发现

• 人类用户在识别并应用对复杂ANN设计至关重要的结构规律（如对称性、重复性）方面展现出强大的直觉能力。
• 通过CPPN-Compiler整合人类标注的规律，能够生成有意义、多样化且高性能的网络变体，同时保留所需的架构特征。
• 混合主动性框架使用户能够无缝切换选择与直接编辑模式，提升设计控制力并降低认知负荷。
• 在BrainCrafter中的协作设计使用户能够迭代改进高分解决方案，加速实现复杂行为的收敛。
• 该系统证明了使用CPPN-Compiler表示并演化大规模ANN的可行性，且在人类引导的结构约束下表现良好。
• 初步结果表明，通过混合主动性模型结合人类洞察与计算演化，可克服传统神经演化在欺骗性或高维搜索空间中的局限性。