[论文解读] Model Exploration Using OpenMOLE - a workflow engine for large scale distributed design of experiments and parameter tuning

Romain Reuillon, Mathieu Leclaire+1 more|arXiv (Cornell University)|Jun 12, 2015

Scientific Computing and Data Management参考文献 11被引用 3

一句话总结

该论文提出 OpenMOLE，一种科学工作流引擎，通过基于 Scala 的高级领域特定语言（DSL），支持大规模分布式实验设计与参数调优。该工作流引擎利用 NSGA-II 和岛屿模型遗传算法，高效实现了对基于代理的蚂蚁模拟模型的多目标优化，在欧洲网格基础设施（EGI）上实现了每小时 200,000 个个体的评估。

ABSTRACT

OpenMOLE is a scientific workflow engine with a strong emphasis on workload distribution. Workflows are designed using a high level Domain Specific Language (DSL) built on top of Scala. It exposes natural parallelism constructs to easily delegate the workload resulting from a workflow to a wide range of distributed computing environments. In this work, we briefly expose the strong assets of OpenMOLE and demonstrate its efficiency at exploring the parameter set of an agent simulation model. We perform a multi-objective optimisation on this model using computationally expensive Genetic Algorithms (GA). OpenMOLE hides the complexity of designing such an experiment thanks to its DSL, and transparently distributes the optimisation process. The example shows how an initialisation of the GA with a population of 200,000 individuals can be evaluated in one hour on the European Grid Infrastructure.

研究动机与目标

• 解决复杂仿真模型中高维参数空间探索的挑战。
• 克服单机执行在计算密集型实验中的局限性。
• 实现在异构高性能计算环境中的参数调优工作负载透明分布。
• 为仿真研究中的科学工作流提供可扩展、可复现且用户友好的框架。
• 展示在生产级网格基础设施上使用 OpenMOLE 进行大规模进化计算的可行性和效率。

提出的方法

• 使用基于 Scala 构建的领域特定语言（DSL）来表达科学工作流和实验设计。
• 利用 GridScale 库与多种分布式环境（包括 SSH、集群管理器和 EGI 网格）进行接口交互。
• 采用 NSGA-II 算法实现多目标优化，支持可配置的输入、目标和重评估以增强鲁棒性。
• 应用进化计算的岛屿模型，将并行种群分布到远程节点，提升可扩展性。
• 集成钩子功能，用于保存帕累托前沿并监控执行过程中的进度。
• 利用 EGI 环境中定义的内存和运行时间约束，实现 2,000 个并发岛屿的并行执行。

实验结果

研究问题

• RQ1 OpenMOLE 是否能有效抽象在分布式计算基础设施上部署大规模实验的复杂性？
• RQ2 在网格环境中，OpenMOLE 使用岛屿模型对参数调优工作负载的扩展效率如何？
• RQ3 OpenMOLE 在分布式执行中在多大程度上降低了科学工作流的部署和管理开销？
• RQ4 OpenMOLE 是否能够支持复杂、多目标的基于代理模型的优化，实现可复现且可扩展的执行？
• RQ5 当将包含 200,000 个个体的遗传算法分布到生产级网格时，可实现多大的性能提升？

主要发现

• OpenMOLE 在欧洲网格基础设施（EGI）上成功执行了基于代理的蚂蚁模型的多目标优化，每小时完成 200,000 个个体的评估。
• 岛屿模型支持 2,000 个并发的进化过程，每个过程包含 50 个个体，整个工作流共完成 200,000 次评估。
• 采用重评估（1%）的 NSGA-II 算法产生了稳健且统计上可靠的结果，有效消除了高估个体的影响。
• DSL 和工作流组合模型使得复杂实验设计能够以简洁且跨平台可移植的方式表达。
• 系统在执行时间上实现了接近线性的加速，相对于单机性能，接近分布式执行的理想效率。
• OpenMOLE 的零部署方法和运行时软件动态配置，使得其能够在无需本地安装的情况下，可靠地运行于异构环境中。