[论文解读] Fitness inheritance in the Bayesian optimization algorithm

Martin Pelikán, Kumara Sastry|arXiv (Cornell University)|Feb 15, 2004

Evolutionary Algorithms and Applications参考文献 18被引用 8

一句话总结

本文提出在贝叶斯优化算法（BOA）中引入适应度继承机制，通过使用贝叶斯网络模型对有希望的解进行适应度估计，从而大幅减少昂贵的适应度评估次数。通过利用模型捕捉复杂依赖关系的内在能力，该方法将实际适应度评估次数减少了高达53倍——表明仅需对不足1%的解进行直接评估，同时仍能保持高性能。

ABSTRACT

This paper describes how fitness inheritance can be used to estimate fitness for a proportion of newly sampled candidate solutions in the Bayesian optimization algorithm (BOA). The goal of estimating fitness for some candidate solutions is to reduce the number of fitness evaluations for problems where fitness evaluation is expensive. Bayesian networks used in BOA to model promising solutions and generate the new ones are extended to allow not only for modeling and sampling candidate solutions, but also for estimating their fitness. The results indicate that fitness inheritance is a promising concept in BOA, because population-sizing requirements for building appropriate models of promising solutions lead to good fitness estimates even if only a small proportion of candidate solutions is evaluated using the actual fitness function. This can lead to a reduction of the number of actual fitness evaluations by a factor of 30 or more.

研究动机与目标

• 通过使用概率模型估计适应度，减少进化算法中昂贵的适应度评估次数。
• 扩展贝叶斯优化算法（BOA）以使用贝叶斯网络和决策图实现适应度继承。
• 探究当仅通过实际适应度函数评估不足1%的候选解时，是否仍可实现准确的适应度估计。
• 评估适应度继承在BOA中对具有欺骗性的难题（如onemax和拼接陷阱）上的有效性。
• 探索在大规模种群进化算法中，模型复杂度与适应度评估节省之间的权衡。

提出的方法

• 扩展BOA的贝叶斯网络模型，用于估计新生成的候选解的适应度，而不仅用于采样。
• 使用完整的条件概率表（CPTs）和贝叶斯网络中的局部结构，同时建模解的结构与适应度景观。
• 在每代中选择的有希望的解上训练模型，以捕捉依赖关系和规律性。
• 利用学习到的模型估计部分新解的适应度，而仅对极小部分解使用实际适应度函数进行评估。
• 将该方法应用于onemax、四阶和五阶拼接陷阱问题，采用新解完全替换种群的替换策略。
• 优化继承比例，以在保持收敛至全局最优解的同时最小化实际适应度评估次数。

实验结果

研究问题

• RQ1 适应度继承是否能在不降低解质量的前提下，显著减少BOA中实际适应度评估的次数？
• RQ2 在仅对极小部分解进行直接评估的情况下，BOA中基于贝叶斯网络模型的适应度估计精度如何？
• RQ3 在BOA中，应将多少比例的解通过实际适应度函数评估，多少比例通过模型估计，才能达到最优？
• RQ4 由于模型精度较高，BOA的种群规模需求是否天然支持有效的适应度继承？
• RQ5 适应度继承在具有已知全局最优解的欺骗性问题（如四阶和五阶拼接陷阱）上的表现如何？

主要发现

• 在onemax问题中，BOA中的适应度继承将实际适应度评估次数减少了31倍；在四阶拼接陷阱中减少了32倍；在五阶拼接陷阱中最多减少了53倍。
• 即使仅对不足1%的候选解使用实际适应度函数进行评估，算法仍能可靠地收敛至全局最优解。
• 适应度估计的准确性随种群规模增大而提高，这在BOA中是固有的，因为模型构建需要大种群，因此适应度继承在BOA中比在简单遗传算法中更有效。
• 该方法实现了显著的加速——适应度评估次数最多减少53倍，原因在于模型能够捕捉适应度景观中的非线性关系和依赖性。
• 最优继承比例取决于模型构建、采样与实际适应度评估的相对复杂度，但当适应度评估代价高昂时，较高的继承比例更为有利。
• 结果表明，适应度继承在BOA中特别有效，因为大种群构建了高质量的模型，使得仅通过极少的直接评估即可实现可靠的适应度估计。