[论文解读] Reproducible Performance Optimization of Complex Applications on the Edge-to-Cloud Continuum

Daniel Rosendo, Alexandru Costan+5 more|arXiv (Cornell University)|Aug 4, 2021

Cloud Computing and Resource Management参考文献 48被引用 5

一句话总结

本文提出了一种可复现的方法论，通过将性能配置分析整合到E2C实验框架中，实现对边缘到云连续体中复杂应用的优化。该方法支持在异构基础设施上系统性探索部署与配置的权衡，使Pl@ntNet（一个拥有超过1000万用户的实际应用）的用户响应时间减少35%，GPU内存使用量降低30%。

ABSTRACT

In more and more application areas, we are witnessing the emergence of complex workflows that combine computing, analytics and learning. They often require a hybrid execution infrastructure with IoT devices interconnected to cloud/HPC systems (aka Computing Continuum). Such workflows are subject to complex constraints and requirements in terms of performance, resource usage, energy consumption and financial costs. This makes it challenging to optimize their configuration and deployment. We propose a methodology to support the optimization of real-life applications on the Edge-to-Cloud Continuum. We implement it as an extension of E2Clab, a previously proposed framework supporting the complete experimental cycle across the Edge-to-Cloud Continuum. Our approach relies on a rigorous analysis of possible configurations in a controlled testbed environment to understand their behaviour and related performance trade-offs. We illustrate our methodology by optimizing Pl@ntNet, a world-wide plant identification application. Our methodology can be generalized to other applications in the Edge-to-Cloud Continuum.

研究动机与目标

• 解决在延迟、成本和资源使用等多重约束下，对复杂混合边缘到云应用进行优化的挑战。
• 提供一种可复现、系统化的方法，用于分析异构边缘、雾和云基础设施之间的配置权衡。
• 通过受控测试平台，支持大规模真实应用的部署与性能调优。
• 实现对计算连续体中全栈应用工作流的自动化、配置感知优化。

提出的方法

• 该方法在受控测试平台环境中整合严格的配置空间分析，以评估边缘、雾和云各层之间的性能权衡。
• 通过增加一个优化层，扩展了E2C实验框架，支持在全连续体范围内实现自动化部署、监控和结果收集。
• 该方法将应用和基础设施参数建模为优化配置文件中的可配置变量，从而支持系统化的实验。
• 采用计算上可行的优化技术，探索部署与配置选项，以响应时间与资源消耗等性能指标为指导。
• 该框架通过Service类支持用户自定义服务，允许为Flink、Spark或Kafka集群等组件定义自定义部署逻辑。
• 实现基于42个节点的Grid’5000测试平台，以在真实应用上大规模验证该方法。

实验结果

研究问题

• RQ1 如何在异构基础设施上系统性地分析并优化复杂混合边缘到云应用的性能权衡？
• RQ2 在真实应用中，哪些配置参数显著影响端到端延迟、资源使用量和能耗？
• RQ3 如何在端到端边缘到云连续体中确保性能优化实验的可复现性？
• RQ4 自动化配置调优在多大规模应用中，能在多大程度上降低用户响应时间与GPU内存消耗？

主要发现

• Pl@ntNet中经过优化的线程池分配相比基线配置，使同时处理的请求数量提高了35%。
• 在各种工作负载下，优化配置均降低了用户响应时间，提升了应用的响应能力。
• 在优化配置下，GPU内存消耗降低了30%，显著提升了资源效率。
• 该方法通过系统性探索参数空间，成功识别出高性能配置。
• 增强后的E2C实验框架支持在真实测试平台上完成完整的实验周期，包括部署、监控与优化。
• 该方法可推广至边缘到云连续体中的其他应用，如在Pl@ntNet上的成功应用所示。