[论文解读] Evolution with Drifting Targets

Varun Kanade, Leslie G. Valiant+1 more|arXiv (Cornell University)|May 19, 2010

Machine Learning and Algorithms参考文献 17被引用 11

一句话总结

本文提出了一种演化算法框架，可在目标函数发生渐变（漂移）时保持稳定。通过应用相关查询技术，证明了任何可演化概念类均可通过多项式资源转化为抗漂移算法，在逆多项式漂移速率下仍能实现并维持高准确率。

ABSTRACT

We consider the question of the stability of evolutionary algorithms to gradual changes, or drift, in the target concept. We define an algorithm to be resistant to drift if, for some inverse polynomial drift rate in the target function, it converges to accuracy 1 -- ε, with polynomial resources, and then stays within that accuracy indefinitely, except with probability ε, at any one time. We show that every evolution algorithm, in the sense of Valiant (2007; 2009), can be converted using the Correlational Query technique of Feldman (2008), into such a drift resistant algorithm. For certain evolutionary algorithms, such as for Boolean conjunctions, we give bounds on the rates of drift that they can resist. We develop some new evolution algorithms that are resistant to significant drift. In particular, we give an algorithm for evolving linear separators over the spherically symmetric distribution that is resistant to a drift rate of O(ε/n), and another algorithm over the more general product normal distributions that resists a smaller drift rate. The above translation result can be also interpreted as one on the robustness of the notion of evolvability itself under changes of definition. As a second result in that direction we show that every evolution algorithm can be converted to a quasi-monotonic one that can evolve from any starting point without the performance ever dipping significantly below that of the starting point. This permits the somewhat unnatural feature of arbitrary performance degradations to be removed from several known robustness translations.

研究动机与目标

• 形式化演化算法在目标函数渐变（漂移）下的稳定性。
• 在可演化性模型中定义并分析抗漂移性作为鲁棒性属性。
• 证明所有可演化概念类均可通过相关查询技术转化为抗漂移算法。
• 为球对称和乘积正态分布上的线性分类器开发新型演化算法，并量化其抗漂移能力。
• 通过引入准单调演化算法，消除任意性能下降。

提出的方法

• 应用Feldman [9] 提出的相关查询技术，将任意演化算法转换为抗漂移算法。
• 将抗漂移性定义为：在多项式资源下收敛至 1−ϵ 准确率，并在逆多项式漂移下保持高性能。
• 使用包含变量添加、移除、交换及字面量否定的邻域结构（Neigh）表示各类概念。
• 采用容差函数 t(r,ϵ)=ϵ²/18 和样本量 s=Õ(1/ϵ²)，以确保鲁棒的性能估计。
• 在均匀分布下，通过分情况分析评估邻域变体的性能提升。
• 证明对于单调合取和一般合取，算法可抵抗高达 ∆≤ϵ²/144 的漂移速率。

实验结果

研究问题

• RQ1 当目标函数渐进变化（漂移）时，演化算法能否保持高性能？
• RQ2 给定的演化算法在仍能收敛至高准确率的前提下，可容忍的最大漂移速率是多少？
• RQ3 是否可使用通用技术将每个可演化概念类转化为抗漂移算法？
• RQ4 如何防止演化过程中性能下降，特别是从次优假设开始时？
• RQ5 在线性分类器于球对称分布和乘积正态分布下，其抗漂移能力的边界是什么？

主要发现

• 本文证明，通过相关查询技术，任何可演化概念类均可转化为抗漂移算法，确保在 1−ϵ 准确率范围内持续性能。
• 对于单调合取，算法在多项式资源和样本量 Õ(1/ϵ²) 下可抵抗高达 ∆≤ϵ²/144 的漂移速率。
• 对于一般合取，邻域结构包含字面量否定，且算法在相同多项式阈值下抵抗漂移。
• 针对球对称分布的线性分类器算法，其漂移抵抗速率可达 O(ϵ/n)，表现出更强鲁棒性。
• 提出一种新型准单调演化算法，可防止性能低于初始水平，彻底消除任意性能下降。
• 通过相关查询的转换，确保了可演化性在定义变化（包括漂移和单调性约束）下的鲁棒性。