[论文解读] Optimal resampling for the noisy OneMax problem

Jialin Liu, Michael Fairbank+2 more|arXiv (Cornell University)|Jul 22, 2016

Optimization and Search Problems参考文献 16被引用 7

一句话总结

本文在具有加性高斯噪声的噪声OneMax问题中，对随机突变爬山法（RMHC）算法的最优重采样次数进行了理论推导。研究表明，最优重采样次数随问题维度增加而增加，以在降噪效果与计算成本之间取得平衡，并通过模拟和对适应度评估次数的理论建模，从理论和实证两方面验证了该结论。

ABSTRACT

The OneMax problem is a standard benchmark optimisation problem for a binary search space. Recent work on applying a Bandit-Based Random Mutation Hill-Climbing algorithm to the noisy OneMax Problem showed that it is important to choose a good value for the resampling number to make a careful trade off between taking more samples in order to reduce noise, and taking fewer samples to reduce the total computational cost. This paper extends that observation, by deriving an analytical expression for the running time of the RMHC algorithm with resampling applied to the noisy OneMax problem, and showing both theoretically and empirically that the optimal resampling number increases with the number of dimensions in the search space.

研究动机与目标

• 确定在噪声OneMax问题中，使适应度评估次数最少的RMHC最优重采样次数。
• 分析通过重采样降低噪声与增加计算成本之间的权衡。
• 研究在存在加性高斯噪声的情况下，最优重采样次数如何随问题维度变化。
• 通过在不同维度和重采样水平下进行的实证模拟，验证适应度评估次数的理论预测。

提出的方法

• 推导在重采样条件下，RMHC达到最优解所需期望适应度评估次数的解析表达式。
• 将具有恒定方差σ²的加性高斯噪声模型化为噪声OneMax问题，其中每次适应度评估均独立地被污染。
• 通过为每个候选解平均r次独立的噪声适应度评估来实现重采样，以降低方差。
• 采用一种改进的RMHC算法，通过翻转一个随机位选择邻居，并使用重采样平均值进行适应度比较。
• 使用存储统计量方法来跟踪迄今为止最佳解的平均适应度和评估次数，从而提高效率。
• 通过将推导出的期望评估次数与在多个维度和重采样值下进行10,000次试验的实证平均值进行比较，验证理论预测。

实验结果

研究问题

• RQ1 在噪声OneMax问题中，使RMHC期望适应度评估次数最少的最优重采样次数是多少？
• RQ2 随着问题维度n的增加，最优重采样次数如何变化？
• RQ3 在高维噪声OneMax问题中，重采样是否仍然有益？若有益，其有效性如何变化？
• RQ4 在不同重采样水平和维度下，适应度评估次数的理论预测与实证结果的匹配程度如何？

主要发现

• 最优重采样次数随问题维度增加而增加，尤其在n > 10时，重采样对成功变得至关重要。
• 在低维情况下（n = 10），重采样可能适得其反，因过度降噪带来的开销反而增加了评估次数。
• 当n = 1000时，最优重采样次数显著提高，且使用存储统计量方法可大幅减少评估次数。
• 期望适应度评估次数的理论预测（例如，n=10, r=1时为205.83）与实证平均值（205.20）高度吻合，验证了模型的准确性。
• 实证结果表明，若不存储迄今为止最佳解的统计量，则需要更多评估次数，证实了状态跟踪的优势。
• 在高维情形（n ≫ 10）下，使用最优重采样可显著降低评估次数，证明其必要性。