[论文解读] Elasticutor: Rapid Elasticity for Realtime Stateful Stream Processing

Li Wang, Tom Z. J. Fu+3 more|arXiv (Cornell University)|Nov 3, 2017

Advanced Database Systems and Queries参考文献 18被引用 3

一句话总结

Elasticutor 提出了一种以执行器为中心的实时有状态流处理快速弹性扩展方法，通过动态重新分配 CPU 核心给过载执行器，避免了全局同步，而非重新分区键。在真实工作负载下，其吞吐量最高提升 2 倍，延迟最低降低两个数量级，优于基于资源的方法。

ABSTRACT

Elasticity is highly desirable for stream processing systems to guarantee low latency against workload dynamics, such as surges in data arrival rate and fluctuations in data distribution. Existing systems achieve elasticity following a resource-centric approach that uses dynamic key partitioning across the parallel instances, i.e. executors, to balance the workload and scale operators. However, such operator-level key repartitioning needs global synchronization and prohibits rapid elasticity. To address this problem, we propose an executor-centric approach, whose core idea is to avoid operator-level key repartitioning while implementing each executor as the building block of elasticity. Following this new approach, we design the Elasticutor framework with two level of optimizations: i) a novel implementation of executors, i.e., elastic executors, that perform elastic multi-core execution via efficient intra-executor load balancing and executor scaling and ii) a global model-based scheduler that dynamically allocates CPU cores to executors based on the instantaneous workloads. We implemented a prototype of Elasticutor and conducted extensive experiments. Our results show that Elasticutor doubles the throughput and achieves an average processing latency up to 2 orders of magnitude lower than previous methods, for a dynamic workload of real-world applications.

研究动机与目标

• 解决现有基于资源的流处理弹性机制中因全局同步导致的性能瓶颈。
• 克服由于状态迁移和路由更新导致的键空间重新分区带来的数秒延迟。
• 通过将算子级键分区与动态资源分配解耦，实现快速、低延迟的弹性扩展。
• 设计一个支持高效执行器内负载均衡和动态核心扩展的框架。
• 在工作负载重新平衡期间，最小化迁移和通信开销，同时保持状态一致性。

提出的方法

• 引入弹性执行器，实现分配核心上的动态负载均衡，并在核心增减时高效扩展。
• 实现基于模型的动态调度器，根据实时工作负载指标将 CPU 核心分配给执行器。
• 将键空间绑定与资源分配解耦，使执行器保持固定的键子空间，避免状态迁移。
• 使用轻量级远程任务协调机制，最小化核心重新分配期间的跨执行器通信。
• 通过避免跨执行器状态移动，优化计算局部性，减少远程数据传输和状态迁移。
• 在 Apache Storm 上部署原型，并使用合成及真实股票交易所工作负载进行评估。

实验结果

研究问题

• RQ1 以执行器为中心的方法是否能消除有状态流处理弹性扩展过程中对全局同步的需求？
• RQ2 与传统的键空间重新分区相比，动态核心重新分配在延迟和吞吐量方面表现如何？
• RQ3 基于模型的调度器在多大程度上能提升资源利用率并减少调度开销？
• RQ4 减少状态迁移和远程数据传输对系统性能和可扩展性有何影响？
• RQ5 该框架在动态、负载倾斜的工作负载下是否能维持低延迟和高吞吐量？

主要发现

• 在真实股票交易所工作负载下，Elasticutor 的吞吐量是传统基于资源的弹性方法的两倍。
• 该框架的平均处理延迟相比以往方法降低了两个数量级以上。
• Elasticutor 下的状态迁移率比朴素弹性核心（naive-EC）方法低 5 倍。
• Elasticutor 下的远程数据传输量比 naive-EC 低 10 倍，为算子间通信释放了更多网络带宽。
• 吞吐量几乎随集群规模线性增长，每次重新分配的调度开销保持在约几毫秒的低水平。
• 系统可在毫秒级内实现快速弹性扩展，避免了传统键重新分区方法常见的数秒延迟。