[论文解读] Fast Artificial Immune Systems

Doğan Çörüş, Pietro S. Oliveto+1 more|arXiv (Cornell University)|Jun 1, 2018

Artificial Immune Systems Applications参考文献 12被引用 4

一句话总结

本文提出了两种新型超突变算子——P-hype FCM 和 P-hype BM——用于人工免疫系统，显著加速了开发过程，同时保持了逃离局部最优解的能力。通过在每次位翻转后使用抛物线分布随机采样适应度，这些算子减少了无效评估次数，使 Opt-IA 在 Cliff 和 OneMax 问题上实现了最优的 O(n log n) 时间复杂度，优于传统的 HMP 搭配 FCM 的方法。

ABSTRACT

Various studies have shown that characteristic Artificial Immune System (AIS) operators such as hypermutations and ageing can be very efficient at escaping local optima of multimodal optimisation problems. However, this efficiency comes at the expense of considerably slower runtimes during the exploitation phase compared to standard evolutionary algorithms. We propose modifications to the traditional `hypermutations with mutation potential' (HMP) that allow them to be efficient at exploitation as well as maintaining their effective explorative characteristics. Rather than deterministically evaluating fitness after each bitflip of a hypermutation, we sample the fitness function stochastically with a `parabolic' distribution which allows the `stop at first constructive mutation' (FCM) variant of HMP to reduce the linear amount of wasted function evaluations when no improvement is found to a constant. By returning the best sampled solution during the hypermutation, rather than the first constructive mutation, we then turn the extremely inefficient HMP operator without FCM, into a very effective operator for the standard Opt-IA AIS using hypermutation, cloning and ageing. We rigorously prove the effectiveness of the two proposed operators by analysing them on all problems where the performance of HPM is rigorously understood in the literature. %

研究动机与目标

• 解决传统具有突变潜能的超突变（HMP）在多模态优化开发阶段效率低下的问题。
• 在大幅减少开发阶段函数评估次数的同时，保持 HMP 强大的逃离局部最优解能力。
• 通过消除 FCM 引入的倾向于返回局部最优解的偏差，实现超突变与老化机制在 Opt-IA 中的和谐集成。
• 严格证明新算子在单参数无偏黑箱模型下，对标准基准函数可实现最优渐近时间复杂度。
• 识别确保快速收敛而不牺牲探索能力的参数范围（尤其是 γ）。

提出的方法

• 提出 P-hype FCM，通过抛物线分布 p_i ≈ γ/i 在每次位翻转后随机采样适应度，返回首个有益突变。
• 引入 P-hype BM，使用相同的随机采样方式评估所有 n 个位翻转，并返回找到的最佳解，避免过早终止。
• 使用参数 γ 控制采样概率，其中 P-hype FCM 的 γ = O(1/log n)，P-hype BM 的 γ = 1/(n log²n)，以确保最优性能。
• 将算子应用于 Opt-IA 框架中，结合克隆与老化机制，以维持种群多样性并逃离局部最优解。
• 采用严格的运行时间分析方法，结合适应度层级法与黑箱复杂度理论，与标准 HMP 和 RLS 进行性能对比。
• 分析 γ 对收敛性的影响，表明过大的 γ 值会导致因过早返回局部最优解而引发指数级运行时间。

实验结果

研究问题

• RQ1 在超突变中，对每次位翻转后的适应度进行随机采样，是否能减少开发阶段的无效评估次数，同时不牺牲探索能力？
• RQ2 所提出的 P-hype FCM 算子在单参数无偏黑箱模型下，是否能在 OneMax 和 LeadingOnes 问题上实现最优渐近时间复杂度？
• RQ3 P-hype BM（评估所有突变并返回最佳解）是否能与 Opt-IA 中的老化机制和谐配合，以成功逃离 Cliff 函数等困难的局部最优解？
• RQ4 为确保 P-hype BM 以高概率避免返回局部最优解，同时保持快速收敛，γ 的最小值是多少？
• RQ5 γ 的选择如何影响在 Jump、Cliff 和 Trap 等多模态函数上的期望运行时间，尤其是在与老化机制结合时？

主要发现

• P-hype FCM 在 OneMax 和 LeadingOnes 上实现了 O(n log n) 的期望运行时间，与单参数无偏黑箱模型下随机局部搜索（RLS）的最优性能一致。
• 当 γ = 1/(n log²n) 时，P-hype BM 使 Opt-IA 在 Cliff 函数上实现 O(n log n) 的期望适应度评估次数，优于传统 HMP 搭配 FCM 的方法。
• 当 γ = Ω(1/log n) 时，Cliff 问题上的期望运行时间为指数级，表明极小的 γ 值对高效逃离局部最优解至关重要。
• 所提出的算子在 Jump、Cliff 和 Trap 等多模态函数上保持了相对于标准进化算法的指数级加速，同时保留了 HMP 的探索优势。
• P-hype FCM 在 γ = O(1/log n) 时，实现了最优的开发时间，同时保留在局部最优解中逃离的能力，该结论通过黑箱复杂度分析得到证明。
• 分析证实，传统 HMP 搭配 FCM 在开发阶段效率低下，原因在于线性数量的无效评估，而新算子通过随机采样有效消除了这一问题。