[论文解读] Ripple: A Practical Declarative Programming Framework for Serverless Compute

Shannon Joyner, Michael J. MacCoss+2 more|arXiv (Cornell University)|Jan 1, 2020

Cloud Computing and Resource Management参考文献 58被引用 11

一句话总结

Ripple 是一个声明式编程框架，可使开发人员以极少的代码更改将数据并行应用程序（如机器学习、基因组学和蛋白质组学）移植到 AWS Lambda 等无服务器平台。它自动处理任务和数据分区、调度、容错以及资源供应，以满足用户定义的服务质量（QoS）目标，与 IaaS/PaaS 相比，性能最高可提升 80 倍，且成本相当。

ABSTRACT

Serverless computing has emerged as a promising alternative to infrastructure- (IaaS) and platform-as-a-service (PaaS)cloud platforms for applications with ample parallelism and intermittent activity. Serverless promises greater resource elasticity, significant cost savings, and simplified application deployment. All major cloud providers, including Amazon, Google, and Microsoft, have introduced serverless to their public cloud offerings. For serverless to reach its potential, there is a pressing need for programming frameworks that abstract the deployment complexity away from the user. This includes simplifying the process of writing applications for serverless environments, automating task and data partitioning, and handling scheduling and fault tolerance. We present Ripple, a programming framework designed to specifically take applications written for single-machine execution and allow them to take advantage of the task parallelism of serverless. Ripple exposes a simple interface that users can leverage to express the high-level dataflow of a wide spectrum of applications, including machine learning (ML) analytics, genomics, and proteomics. Ripple also automates resource provisioning, meeting user-defined QoS targets, and handles fault tolerance by eagerly detecting straggler tasks. We port Ripple over AWS Lambda and show that, across a set of diverse applications, it provides an expressive and generalizable programming framework that simplifies running data-parallel applications on serverless, and can improve performance by up to 80x compared to IaaS/PaaS clouds for similar costs.

研究动机与目标

• 通过抽象底层系统关注点，解决在无服务器平台上部署数据并行应用程序的复杂性。
• 实现单机应用程序到无服务器执行环境的无缝迁移，最大限度减少开发人员工作量。
• 自动化资源供应、任务调度和容错机制，以满足用户定义的质量服务（QoS）要求。
• 通过通用的声明式接口，支持多样化的科学与分析工作负载，包括机器学习、基因组学和蛋白质组学。
• 通过主动检测和重调度慢速任务，提升性能可预测性和成本效率。

提出的方法

• 提供高层声明式 API，允许用户通过显式定义顺序执行和并行执行阶段来表达数据流管道。
• 自动将输入数据划分为数据块，并将其映射到无服务器函数，同时管理各阶段之间的数据依赖关系。
• 利用历史作业性能分析，推断出满足 QoS 目标所需的最优并发度（每阶段并发 Lambda 的数量）。
• 实现动态调度策略，包括轮转、先进先出和基于截止时间的调度，以优先处理关键任务。
• 通过监控执行进度，早期检测慢速任务并重新提交，以缩短整体作业完成时间。
• 利用无服务器原原子（如 AWS Lambda）进行所有计算，无需持久化基础设施或长期运行的集群。

实验结果

研究问题

• RQ1 声明式框架能否在无需架构重构的情况下，自动将单体式数据并行应用程序转换为无服务器工作负载？
• RQ2 框架在多大程度上能够准确预测满足用户指定性能和 QoS 目标所需的并发度？
• RQ3 通过早期检测慢速任务实现的自动化容错机制，在多大程度上能改善作业完成时间和性能可预测性？
• RQ4 该框架在具有不同数据访问模式和计算强度的工作负载上表现如何？
• RQ5 该框架能否在支持复杂、多阶段数据流管道的无服务器后端上，保持高效率和低成本？

主要发现

• Ripple 在相同成本下，相较于传统 IaaS/PaaS 部署，最高实现 80 倍的性能提升，展现出显著的效率增益。
• 该框架基于历史性能分析，准确推断出新作业所需的并发度，从而实现可靠的 QoS 保障。
• 通过早期检测并重调度慢速任务，显著缩短了作业完成时间，并提升了多种工作负载下的性能可预测性。
• Ripple 顺利支持了三个大规模应用——机器学习、基因组学和蛋白质组学，充分展示了其在科学领域中的通用性。
• 该框架在不同作业到达模式和并发水平下均保持了稳健的性能，验证了其适应性和可扩展性。
• Ripple 在 AWS Lambda 上的开源实现已被多个研究团队采纳，证实了其实际效用和可用性。