[论文解读] Distributed Publish/Subscribe Query Processing on the Spatio-Textual Data Stream

Zhida Chen, Gao Cong+3 more|arXiv (Cornell University)|Dec 8, 2016

Peer-to-Peer Network Technologies参考文献 19被引用 3

一句话总结

本文提出 PS² Stream，一种用于实时处理时空数据流的分布式发布/订阅系统，采用混合工作负载分区策略，联合优化空间与文本特性，以最小化总工作负载并平衡工作节点负载。通过动态负载调整，系统在真实 Twitter 数据上实现了 26% 更高的吞吐量，且迁移成本低，在延迟和可扩展性方面优于基线系统。

ABSTRACT

Huge amount of data with both space and text information, e.g., geo-tagged tweets, is flooding on the Internet. Such spatio-textual data stream contains valuable information for millions of users with various interests on different keywords and locations. Publish/subscribe systems enable efficient and effective information distribution by allowing users to register continuous queries with both spatial and textual constraints. However, the explosive growth of data scale and user base has posed challenges to the existing centralized publish/subscribe systems for spatio-textual data streams. In this paper, we propose our distributed publish/subscribe system, called PS2Stream, which digests a massive spatio-textual data stream and directs the stream to target users with registered interests. Compared with existing systems, PS2Stream achieves a better workload distribution in terms of both minimizing the total amount of workload and balancing the load of workers. To achieve this, we propose a new workload distribution algorithm considering both space and text properties of the data. Additionally, PS2Stream supports dynamic load adjustments to adapt to the change of the workload, which makes PS2Stream adaptive. Extensive empirical evaluation, on commercial cloud computing platform with real data, validates the superiority of our system design and advantages of our techniques on system performance improvement.

研究动机与目标

• 解决集中式发布/订阅系统在时空数据和用户工作负载持续增长下的可扩展性限制。
• 设计一种分布式系统，高效地在工作节点间分区数据和查询工作负载，同时最小化总处理负载。
• 在实时响应动态工作负载变化时实现负载均衡和低迁移成本。
• 在真实世界时空数据上评估系统性能，满足高吞吐量和低延迟需求。

提出的方法

• 提出一种混合工作负载分区算法，联合考虑空间区域和文本关键词模式，以有效分配数据和查询流。
• 引入工作负载分布模型，通过分析空间与文本相关性，最小化总工作负载并平衡工作节点利用率。
• 设计动态负载调整机制——本地与全局机制——在最小化数据迁移和对处理延迟影响最小的前提下重新分配工作负载。
• 采用基于单元的数据显示分区方案，每个工作节点管理一个时空单元，实现高效的工作负载跟踪与迁移。
• 在实验中使用带时间戳的真实 Twitter 数据流来模拟随时间变化的动态查询分布，以扩展工作负载。
• 使用吞吐量、延迟、迁移成本和迁移时间等指标在 Amazon EC2 上评估系统性能。

实验结果

研究问题

• RQ1 在处理时空数据和订阅查询时，如何对分布式工作节点上的工作负载进行最优分区？
• RQ2 何种分区策略能在保持负载均衡的同时最小化分布式发布/订阅系统中的总系统工作负载？
• RQ3 如何在低迁移成本和对处理延迟影响最小的前提下执行动态负载调整？
• RQ4 在工作负载变化时，动态负载调整在多大程度上提升了系统吞吐量？

主要发现

• PS² Stream 相较于无动态负载调整的系统，吞吐量提高了 26%，证明了其负载调整机制的有效性。
• GR（全局重平衡）算法迁移成本和时间最低，相比 RA 降低近 50% 的迁移时间，相比 SI 降低 70%。
• GR 实现最佳延迟表现，80% 的元组在迁移期间不受影响（延迟低于 100ms），仅 4% 显著延迟（超过 1 秒）。
• DP（动态分区）在延迟方面表现第二，80% 的元组不受影响，但因单元选择开销导致选择时间更长。
• 同时考虑空间与文本的混合工作负载分区策略，在吞吐量和负载均衡方面优于仅使用空间或仅使用文本分区的基线方案。
• 随着查询量增加，迁移成本和时间也随之上升，但 GR 和 DP 在所有工作负载下均显著低于 SI 和 RA 的开销。