[论文解读] Adaptive Event Dispatching in Serverless Computing Infrastructures

Manuel Stein|arXiv (Cornell University)|Jan 10, 2019

Cloud Computing and Resource Management参考文献 31被引用 5

一句话总结

本文提出 NOAH，一种用于无服务器计算的新型自适应事件分发算法，通过基于数据局部性和需求预测的动态事件聚合，提升了资源效率。通过使用非合作在线分配启发式方法，NOAH 降低了响应时间与资源成本，在不同工作负载下相较 OpenWhisk 和首次 Fit 算法实现了 30% 的效率提升。

ABSTRACT

Serverless computing is an emerging Cloud service model. It is currently gaining momentum as the next step in the evolution of hosted computing from capacitated machine virtualisation and microservices towards utility computing. The term "serverless" has become a synonym for the entirely resource-transparent deployment model of cloud-based event-driven distributed applications. This work investigates how adaptive event dispatching can improve serverless platform resource efficiency and contributes a novel approach that allows for better scaling and fitting of the platform's resource consumption to actual demand.

研究动机与目标

• 通过数据局部性感知，减少数据传输与上下文同步开销，提升无服务器平台效率。
• 通过动态扩展虚拟分配以匹配预估资源需求，应对可变的工作负载需求。
• 通过优化系统延迟与分配成本之间的权衡，平衡响应时间与资源利用率。
• 开发仿真框架，以现有启发式方法为基准，评估与验证所提出的分发策略。
• 为未来无服务器调度与资源分配研究提供可复用的仿真模型。

提出的方法

• 将无服务器调度问题形式化为多目标优化问题，目标包括响应时间、资源成本与数据局部性。
• 提出一种非合作在线分配启发式方法（NOAH），通过预估事件需求，基于预测负载将事件分配至虚拟工作者。
• 采用虚拟分配放置策略，将具有相似数据访问模式的事件分组，以最小化数据传输与上下文切换开销。
• 基于 CloudSim 构建离散事件仿真，模拟无服务器平台行为，包括事件排队、实例创建与调度决策。
• 引入可配置参数 α，以控制响应时间与资源覆盖之间的权衡，实现对工作负载水平的动态适应。
• 使用合成工作负载，将 NOAH 与 OpenWhisk 的默认负载均衡器及基于博弈论的非合作负载均衡方法进行对比评估。

实验结果

研究问题

• RQ1 如何使无服务器平台中的事件分发适应动态工作负载模式，同时最小化资源成本？
• RQ2 数据局部性感知在无服务器事件处理中在多大程度上可改善响应时间并减少数据传输开销？
• RQ3 在不同需求下，无服务器系统中响应时间与资源利用率之间的最优权衡是什么？
• RQ4 所提出的 NOAH 启发式方法相较于在线首次 Fit 算法与 OpenWhisk 负载均衡方法，在效率与可扩展性方面表现如何？
• RQ5 能否有效设计并验证一个仿真框架，以支持无服务器调度算法的可重现评估？

主要发现

• 在高并发工作负载下，NOAH 相较于 OpenWhisk 的默认负载均衡器，实现了 30% 的资源效率提升。
• α = 10⁻⁴ 的配置在所有工作负载水平下均实现了响应时间与资源成本的最佳平衡，证明了有效的权衡管理能力。
• 基于数据局部性的事件聚合显著降低了上下文同步开销，尤其相较于 OpenWhisk 的容器化模型更为明显。
• 仿真框架成功验证了 NOAH 的行为，并支持与基线启发式方法的可重现比较。
• 在动态工作负载下，NOAH 在响应时间与资源利用率方面均优于在线首次 Fit 算法与非合作博弈论负载均衡方法。
• 结果证实，无服务器平台可通过超越简单基于请求的负载均衡，转向智能、自适应的事件分发，实现更高效率。