Skip to main content
QUICK REVIEW

[论文解读] A Taxonomy on Big Data: Survey

Ripon Patgiri|arXiv (Cornell University)|Aug 25, 2018
Big Data Technologies and Applications被引用 4
一句话总结

本文提出了一套全面的大型数据分类法,将其划分为七个核心领域:语义、计算基础设施、存储系统、大数据管理、数据挖掘、机器学习以及安全与隐私。系统分析了特征(V3+11)、架构(MapReduce、BSP、流处理)、存储模型及安全挑战,为理解大数据技术及其在多样化领域中的应用提供了结构化框架。

ABSTRACT

The Big Data is the most popular paradigm nowadays and it has almost no untouched area. For instance, science, engineering, economics, business, social science, and government. The Big Data are used to boost up the organization performance using massive amount of dataset. The Data are assets of the organization, and these data gives revenue to the organizations. Therefore, the Big Data is spawning everywhere to enhance the organizations' revenue. Thus, many new technologies emerging based on Big Data. In this paper, we present the taxonomy of Big Data. Besides, we present in-depth insight on the Big Data paradigm.

研究动机与目标

  • 建立统一的、多维的大数据分类法,以应对该领域日益增长的复杂性与碎片化问题。
  • 分析超越传统3V模型的大数据演化特征,整合11个V特征,包括体量、速度、多样性、真实性、有效性、价值、虚拟、可视化、可变性、用户、容器和复杂性。
  • 对大数据基础设施中的关键技术进行分类与分析,包括MapReduce、批量同步并行(BSP)和流处理模型。
  • 研究大数据系统中基础设施、数据、管理与完整性维度的安全与隐私挑战。
  • 全面概述大数据技术及其与机器学习和分析技术的整合,以支持现实世界的应用。

提出的方法

  • 提出七类分类法:语义、计算基础设施、存储系统、大数据管理、数据挖掘、机器学习以及安全与隐私。
  • 将V3+11模型(体量、速度、多样性、真实性、有效性、价值、虚拟、可视化、可变性、用户、容器、复杂性)作为刻画大数据的框架。
  • 将计算基础设施划分为三种范式:MapReduce、批量同步并行(BSP)和流处理。
  • 将存储系统划分为四个子组件:存储架构、实现方式、结构和设备。
  • 从四个维度审视安全与隐私:基础设施安全、数据隐私、数据管理与数据完整性。
  • 将机器学习与数据挖掘技术整合至大数据处理管道中,强调同态加密和安全多方计算等隐私保护方法。

实验结果

研究问题

  • RQ1如何在核心技术与概念维度上对大数据进行系统性分类?
  • RQ2超越传统3V模型的扩展特征(如真实性、有效性、价值、复杂性等)如何定义现代大数据,并影响系统设计?
  • RQ3不同的计算基础设施——MapReduce、BSP与流处理——如何实现可扩展的数据处理?它们各自的优势与局限性是什么?
  • RQ4大数据系统中的关键安全与隐私挑战是什么?如何在基础设施、数据与完整性层面加以应对?
  • RQ5机器学习与隐私保护分析等新兴技术如何与大数据平台集成,以提升实用性与可信度?

主要发现

  • V3+11模型相较于传统3V模型提供了更全面的框架,能够捕捉大数据中的真实性、有效性、价值与复杂性等关键方面。
  • 由于具备容错能力、在通用硬件上的可扩展性以及对并行性的抽象,MapReduce在大规模数据处理中仍占主导地位。
  • 流处理与BSP模型分别在实时处理与迭代处理中至关重要,弥补了面向批处理的MapReduce在低延迟场景下的局限性。
  • 大数据安全是多层的,基础设施、数据与完整性挑战需通过访问控制、加密(如同态加密)和溯源追踪等协调方案应对。
  • 数据溯源与细粒度审计对Forensic分析与合规性至关重要,但因其大规模、动态的数据血缘图而引入复杂性。
  • 隐私保护技术如安全多方计算与可验证计算对于在不损害机密性的前提下实现敏感数据上的分析至关重要。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。