[论文解读] Sector and Sphere: Towards Simplified Storage and Processing of Large Scale Distributed Data

Yunhong Gu, Robert L. Grossman|ArXiv.org|Sep 6, 2008

Cloud Computing and Resource Management参考文献 8被引用 11

一句话总结

本文介绍了Sector和Sphere，这是一种分布式存储与计算系统，旨在简化跨地理位置分散的数据中心的大规模数据处理。通过在数据中心之间统一管理数据和用户自定义函数（UDFs），该系统在Terasort基准测试中实现了比Hadoop快约2倍的性能，展示了其在云规模工作负载中更高的可扩展性和效率。

ABSTRACT

Cloud computing has demonstrated that processing very large datasets over commodity clusters can be done simply given the right programming model and infrastructure. In this paper, we describe the design and implementation of the Sector storage cloud and the Sphere compute cloud. In contrast to existing storage and compute clouds, Sector can manage data not only within a data center, but also across geographically distributed data centers. Similarly, the Sphere compute cloud supports User Defined Functions (UDF) over data both within a data center and across data centers. As a special case, MapReduce style programming can be implemented in Sphere by using a Map UDF followed by a Reduce UDF. We describe some experimental studies comparing Sector/Sphere and Hadoop using the Terasort Benchmark. In these studies, Sector is about twice as fast as Hadoop. Sector/Sphere is open source.

研究动机与目标

• 解决在多个地理位置分散的数据中心之间管理与处理大规模数据的复杂性。
• 克服现有存储与计算云主要局限于单个数据中心运行的局限性。
• 提供一种统一的编程模型，支持使用用户自定义函数（UDFs）进行数据中心内与跨数据中心的数据处理。
• 通过模块化的Map和Reduce UDF实现MapReduce风格工作负载的高效实现。
• 在真实世界基准测试中，与Hadoop等现有系统相比，展示出更优的性能与可扩展性。

提出的方法

• 设计Sector作为存储云，采用分布、可扩展的架构，在数据中心内部及跨数据中心管理数据。
• 实现Sphere作为计算云，在Sector中存储的数据上执行UDFs，支持数据中心内与跨数据中心的处理。
• 通过在Sphere框架内允许用户定义Map UDF后接Reduce UDF，支持MapReduce编程模式。
• 采用去中心化、容错的设计，确保在分布式节点间保持高可用性与数据一致性。
• 利用通用硬件与简化的编程模型，降低运维复杂性并提升开发人员生产力。
• 与标准云基础设施集成，实现无缝部署与互操作性。

实验结果

研究问题

• RQ1 如何高效地在多个地理位置分散的数据中心之间存储与处理大规模数据？
• RQ2 统一的编程模型在多大程度上能简化分布式数据处理应用的开发？
• RQ3 基于UDFs构建的系统能否在性能与可扩展性方面超越Hadoop等成熟框架？
• RQ4 专为跨数据中心工作负载设计的存储与计算堆栈具有怎样的性能特征？
• RQ5 该系统在分布式、多数据中心环境中如何处理容错与数据一致性？

主要发现

• Sector和Sphere在Terasort基准测试中实现了约两倍于Hadoop的性能，表明性能有显著提升。
• 该系统成功实现了跨多个数据中心的数据管理与UDF执行，证明其可扩展性已突破单数据中心的限制。
• 通过采用两阶段UDF模型（先Map后Reduce），高效实现了MapReduce风格工作负载，验证了编程模型的可扩展性。
• Sector/Sphere的开源特性促进了社区采纳，并支持大规模数据处理的进一步扩展。
• 通过抽象底层分布细节，该设计降低了运维复杂性，提升了开发人员生产力。
• 通过其去中心化架构，系统在分布式工作负载下仍保持了高可用性与容错能力。