[论文解读] Storage Solutions for Big Data Systems: A Qualitative Study and Comparison

Samiya Khan, Xiufeng Liu+2 more|arXiv (Cornell University)|Apr 25, 2019

Cloud Computing and Resource Management参考文献 143被引用 6

一句话总结

本文对四种NoSQL数据模型——文档型、键值型、图型和宽列型——进行了定性比较，评估了80种解决方案，并评估了Hadoop环境中的大数据文件格式。基于数据特征和工作负载，识别出选择存储系统的若干关键设计标准，为大数据系统中选择最优存储和文件格式提供了结构化框架。

ABSTRACT

Big data systems development is full of challenges in view of the variety of application areas and domains that this technology promises to serve. Typically, fundamental design decisions involved in big data systems design include choosing appropriate storage and computing infrastructures. In this age of heterogeneous systems that integrate different technologies for optimized solution to a specific real world problem, big data system are not an exception to any such rule. As far as the storage aspect of any big data system is concerned, the primary facet in this regard is a storage infrastructure and NoSQL seems to be the right technology that fulfills its requirements. However, every big data application has variable data characteristics and thus, the corresponding data fits into a different data model. This paper presents feature and use case analysis and comparison of the four main data models namely document oriented, key value, graph and wide column. Moreover, a feature analysis of 80 NoSQL solutions has been provided, elaborating on the criteria and points that a developer must consider while making a possible choice. Typically, big data storage needs to communicate with the execution engine and other processing and visualization technologies to create a comprehensive solution. This brings forth second facet of big data storage, big data file formats, into picture. The second half of the research paper compares the advantages, shortcomings and possible use cases of available big data file formats for Hadoop, which is the foundation for most big data computing technologies. Decentralized storage and blockchain are seen as the next generation of big data storage and its challenges and future prospects have also been discussed.

研究动机与目标

• 基于特征和对不同大数据工作负载的适用性，分析并比较四种主要NoSQL数据模型——文档型、键值型、图型和宽列型。
• 根据可扩展性、一致性及查询支持等关键标准，评估80种NoSQL数据库解决方案，以指导系统设计决策。
• 研究Hadoop生态系统中使用的大数据文件格式（如Parquet、ORC、Avro），评估其性能、压缩效率及对分析任务的适用性。
• 探讨去中心化存储和区块链作为大数据存储的新兴范式，讨论其挑战与未来潜力。
• 为特定大数据应用需求提供一个全面的决策框架，用于选择存储基础设施和文件格式。

提出的方法

• 基于数据模型灵活性、可扩展性和查询能力等标准，对四种主要NoSQL数据模型进行基于特性的比较分析。
• 根据一致性模型、数据分布和受支持操作等实现特性，对80种NoSQL数据库系统进行调查与分类。
• 从压缩效率、列式与行式存储对比以及在基于Hadoop的处理管道中的性能等方面，评估大数据文件格式（Parquet、ORC、Avro、RCFile等）。
• 评估存储系统与执行引擎（如Spark、Hive）及可视化工具之间的集成需求，以确保端到端数据处理管道的效率。
• 探索去中心化存储和区块链技术作为下一代存储解决方案的潜力，分析其在大数据环境中的优势与局限性。
• 将研究发现整合为一个决策框架，根据应用特定的数据特征和工作负载模式，系统化地选择存储和文件格式。

实验结果

研究问题

• RQ1 基于数据结构和访问模式，哪种NoSQL数据模型——文档型、键值型、图型或宽列型——最适合特定的大数据工作负载？
• RQ2 80种NoSQL数据库解决方案之间的关键技术与架构差异是什么？这些差异如何影响系统设计选择？
• RQ3 在Hadoop环境中，不同大数据文件格式（如Parquet、ORC）在性能、压缩效率和查询效率方面有何差异？
• RQ4 在大数据存储系统背景下，去中心化存储和区块链面临哪些挑战与机遇？
• RQ5 如何系统性地将存储和文件格式选择与处理及可视化组件对齐，以构建可扩展的大数据解决方案？

主要发现

• 文档型和宽列型存储在模式灵活性和高写入吞吐量方面表现优异，特别适合半结构化和大规模数据工作负载。
• 键值型存储在低延迟、高吞吐量访问模式下表现卓越，尤其适用于缓存和会话管理等场景。
• 图数据库在处理复杂关系密集型查询（如社交网络分析或推荐系统）时表现出卓越性能。
• 列式文件格式（如Parquet和ORC）由于支持高效的谓词下推和列式压缩，在分析型工作负载中显著优于行式格式。
• 文件格式的选择对查询执行时间和存储效率有显著影响，Parquet在大多数分析基准测试中表现更优。
• 去中心化存储和区块链在信任保障和可审计性方面展现出前景，但目前在生产级大数据系统中仍面临可扩展性和性能限制。