[论文解读] Informed Down-Sampled Lexicase Selection: Identifying productive training cases for efficient problem solving

Ryan Boldi, Martin Briesch+6 more|arXiv (Cornell University)|Jan 4, 2023

Evolutionary Algorithms and Applications被引用 7

一句话总结

本文提出了一种名为有信息的下采样字典序选择（Informed Down-Sampled Lexicase Selection, IDS）的方法，该方法利用种群统计信息构建训练案例的下采样，优先选择具有差异性、非冗余的案例，而非同义案例。通过优先选择信息量丰富的案例，IDS 在相同计算预算下提升了遗传编程中的问题求解成功率，相较于多种基准测试和GP系统中的随机下采样方法表现更优。

ABSTRACT

Genetic Programming (GP) often uses large training sets and requires all individuals to be evaluated on all training cases during selection. Random down-sampled lexicase selection evaluates individuals on only a random subset of the training cases allowing for more individuals to be explored with the same amount of program executions. However, creating a down-sample randomly might exclude important cases from the current down-sample for a number of generations, while cases that measure the same behavior (synonymous cases) may be overused despite their redundancy. In this work, we introduce Informed Down-Sampled Lexicase Selection. This method leverages population statistics to build down-samples that contain more distinct and therefore informative training cases. Through an empirical investigation across two different GP systems (PushGP and Grammar-Guided GP), we find that informed down-sampling significantly outperforms random down-sampling on a set of contemporary program synthesis benchmark problems. Through an analysis of the created down-samples, we find that important training cases are included in the down-sample consistently across independent evolutionary runs and systems. We hypothesize that this improvement can be attributed to the ability of Informed Down-Sampled Lexicase Selection to maintain more specialist individuals over the course of evolution, while also benefiting from reduced per-evaluation costs.

研究动机与目标

• 为解决随机下采样在字典序选择中的低效问题，该问题可能导致关键训练案例被排除或冗余案例被过度使用。
• 通过构建包含具有差异性、行为独特性的训练案例的下采样，维持更高的种群多样性，从而提升进化搜索性能。
• 评估基于运行时种群统计信息的有信息下采样是否能在固定计算预算下提升遗传编程中的问题求解成功率。
• 探究在不同GP系统和独立进化运行中，是否始终识别出相同的高重要性训练案例。
• 探讨专家个体和案例差异性在推动进化进展中的作用。

提出的方法

• IDS 利用种群统计信息识别由不同个体子集求解的训练案例，将这些案例定义为具有差异性且更具信息量。
• 通过优先选择这些具有差异性的案例而非同义案例（即由重叠解集求解的案例），构建下采样，从而减少冗余。
• 该方法在进化过程中动态更新案例差异性度量，确保下采样能适应种群行为的变化。
• 下采样通过加权选择过程生成，优先选择在当前种群中解集重叠度较低的案例。
• 该方法被应用于两个独立的GP框架：PushGP 和语法引导的GP（Grammar-Guided GP, G3P），以实现跨系统验证。
• IDS 与字典序选择无缝集成，通过使用基于统计信息的训练案例选择替代随机下采样，用于评估。

实验结果

研究问题

• RQ1 基于案例差异性进行有信息下采样，是否在遗传编程中比随机下采样带来更高的问题求解成功率？
• RQ2 在独立的进化运行和不同GP系统中，是否始终能识别出最有效的训练案例？
• RQ3 有信息下采样在多大程度上能维持专家个体（即解决独特行为的个体）在整个进化过程中的存在？
• RQ4 下采样组成如何影响进化搜索的多样性与收敛性？
• RQ5 是否能在不同GP表示中识别出相同的临界训练案例，从而表明其重要性由问题结构决定，而非系统特异性偏差？

主要发现

• 有信息下采样字典序选择在 PushGP 和 G3P 系统中，于八个当代程序合成基准问题上显著优于随机下采样。
• 该方法在独立运行中始终包含相同的高影响力训练案例，表明其对信息性案例的识别具有鲁棒性。
• IDS 生成的下采样包含更高比例的具有差异性、非冗余的案例，从而增强了对多样化解法行为的选择压力。
• 成功率的提升归因于对专家个体的更好维持，以及由于更智能的案例选择而带来的每轮评估成本降低。
• 对于需要条件判断的问题（如 Small or Large and Grade），IDS 在两个GP系统中均成功识别并利用了相同的临界案例，表明其重要性由问题结构决定，而非表示形式依赖。
• 分析证实，IDS 提升了下采样的信息含量，使得训练案例在进化运行中被更一致、更有效地使用。