[论文解读] Learning Fitness Functions for Genetic Algorithms

Shantanu Mandal, Todd A. Anderson+4 more|arXiv (Cornell University)|Aug 22, 2019

Evolutionary Algorithms and Applications参考文献 23被引用 4

一句话总结

该论文提出了一种新颖的框架，利用神经网络在基于遗传算法的程序自动生成中自动学习适应度函数，显著提升了程序发现效率。通过集成一种轻量级搜索启发式方法，该方法在更少的代数内发现了更多正确程序，优于当前最先进方法。

ABSTRACT

The problem of automatic software generation is known as Machine Programming. In this work, we propose a framework based on genetic algorithms to solve this problem. Although genetic algorithms have been used successfully for many problems, one criticism is that hand-crafting its fitness function, the test that aims to effectively guide its evolution, can be notably challenging. Our framework presents a novel approach to learn the fitness function using neural networks to predict values of ideal fitness functions. We also augment the evolutionary process with a minimally intrusive search heuristic. This heuristic improves the framework's ability to discover correct programs from ones that are approximately correct and does so with negligible computational overhead. We compare our approach with several state-of-the-art program synthesis methods and demonstrate that it finds more correct programs with fewer candidate program generations.

研究动机与目标

• 解决基于遗传算法的程序自动生成中手动设计有效适应度函数的挑战。
• 通过使用神经网络自动学习适应度函数，减轻手工构造适应度函数的负担。
• 通过引入一种最小侵入性的搜索启发式方法，提升对近似正确程序的优化效率，从而提高进化搜索效率。
• 在正确性与生成效率方面，超越现有的程序自动生成技术。

提出的方法

• 训练神经网络以预测候选程序的理想适应度值，替代手工设计的适应度函数。
• 将预测的适应度值作为遗传算法进化的主导向导。
• 引入一种轻量级搜索启发式方法，逐步改进位于解边界附近的程序。
• 以最小侵入方式应用该启发式方法，对进化过程增加可忽略的计算开销。
• 结合基于神经网络的适应度预测与启发式方法，以增强向正确程序的收敛性。
• 在受控条件下，将该框架与当前最先进程序自动生成方法进行对比评估。

实验结果

研究问题

• RQ1 神经网络能否有效学习适应度函数，以引导遗传算法在自动软件生成中找到正确程序？
• RQ2 一种最小侵入性的搜索启发式方法在进化过程中如何提升正确程序的发现效率？
• RQ3 与现有方法相比，所提出的框架在发现正确解所需候选程序生成代数方面，减少程度如何？
• RQ4 学习到的适应度函数与搜索启发式的集成是否能提升程序自动生成的正确率？

主要发现

• 在相同数量的候选程序生成代数下，该框架发现的正确程序数量多于当前最先进方法。
• 通过神经网络学习适应度函数，显著减少了对手工适应度函数工程的需求。
• 集成的搜索启发式方法在计算开销极小的前提下，提升了对近似正确程序的优化能力。
• 该框架以更少的代数实现更高的合成成功率，表明收敛速度更快。
• 该方法在多种不同的合成任务中，展现出更优的可扩展性与鲁棒性，能够高效发现正确程序。