[论文解读] Cloud-based Evolutionary Algorithms: An algorithmic study

J. J. Merelo, Maribel García-Arenas+4 more|arXiv (Cornell University)|May 31, 2011

Distributed and Parallel Computing Systems参考文献 13被引用 5

一句话总结

本文提出一种基于云的进化算法框架，利用Dropbox作为文件同步服务，实现在异构机器上的分布式、异步计算。实验表明，对于MMDP等复杂问题，该方法通过并行评估显著缩短了求解时间，但性能提升高度依赖于对迁移间隔的调优以及对Dropbox固有延迟的管理。

ABSTRACT

After a proof of concept using Dropbox(tm), a free storage and synchronization service, showed that an evolutionary algorithm using several dissimilar computers connected via WiFi or Ethernet had a good scaling behavior in terms of evaluations per second, it remains to be proved whether that effect also translates to the algorithmic performance of the algorithm. In this paper we will check several different, and difficult, problems, and see what effects the automatic load-balancing and asynchrony have on the speed of resolution of problems.

研究动机与目标

• 探索是否可利用类似Dropbox的免费、广泛可用的云存储服务作为分布式进化计算的通信媒介。
• 研究云存储服务固有的异步性与负载均衡特性是否能提升进化计算中的算法性能。
• 确定节点数量、迁移频率和问题复杂度对求解时间和成功率的影响。
• 评估该方法在存在文件同步延迟的情况下，是否适用于复杂且评估耗时的问题。

提出的方法

• 利用Dropbox作为共享的异步文件同步服务，在分布式进化算法节点之间交换种群数据。
• 采用岛屿式进化算法架构，每个节点独立运行，并在预设时间间隔通过Dropbox同步种群。
• 为每个节点引入1秒的启发式延迟，以确保Dropbox守护进程完成文件传输，从而最小化竞争条件。
• 在两个基准问题上测量性能：P-Peaks（简单）和MMDP（复杂），跟踪求解时间和评估次数。
• 对迁移间隔（每40、60、100代）进行调优，以研究其对性能和收敛速度的影响。
• 使用标准（非并行化）进化算法作为基线，用于比较不同配置下的性能表现。

实验结果

研究问题

• RQ1 基于Dropbox的文件同步能否在极少设置且无需自建基础设施的情况下，有效支持分布式进化计算？
• RQ2 Dropbox的异步性和固有延迟是否对复杂问题上的进化算法性能产生阻碍或促进作用？
• RQ3 在基于云的进化计算环境中，节点数量和迁移频率如何影响求解时间和成功率？
• RQ4 是否存在一个问题复杂度的临界点，使得并行评估的优势超过云同步带来的延迟？
• RQ5 在性能各异的志愿者提供机器（异构节点）环境下，该系统是否能有效运行而不降低性能？

主要发现

• 对于简单的P-Peaks问题，通过Dropbox增加节点并未减少求解时间，由于同步延迟过高，单节点配置表现最佳。
• 对于复杂的MMDP问题，4个节点配合100代的迁移间隔实现了最快的求解时间，相比单节点执行提升了30%-40%。
• MMDP问题的最优迁移间隔为100代，因为更短的间隔会增加同步开销，而更长的间隔则会降低并行度。
• 求解时间对迁移频率极为敏感，若间隔设置不当，即使增加节点数量也会导致性能下降。
• 在4个节点和最优迁移间隔下，所有MMDP实验均达到100%的成功率，表明在正确配置下系统具有可靠的收敛性。
• 为确保Dropbox同步完成而设置的每节点1秒延迟，在短时间实验中最高消耗了总运行时间的25%，凸显其为关键性能瓶颈。