[論文レビュー] Storage Solutions for Big Data Systems: A Qualitative Study and Comparison

Samiya Khan, Xiufeng Liu+2 more|arXiv (Cornell University)|Apr 25, 2019

Cloud Computing and Resource Management参考文献 143被引用数 6

ひとこと要約

この論文は、ドキュメント指向、キー値、グラフ、ワイドカラムの4つのNoSQLデータモデルを定性的に比較し、80のソリューションを評価し、Hadoop向けのビッグデータファイル形式についても検討している。データの特徴とワークロードに基づいてストレージシステムを選定するための重要な設計基準を特定し、ビッグデータシステムにおける最適なストレージおよびファイル形式の選定を支援する構造化されたフレームワークを提示している。

ABSTRACT

Big data systems development is full of challenges in view of the variety of application areas and domains that this technology promises to serve. Typically, fundamental design decisions involved in big data systems design include choosing appropriate storage and computing infrastructures. In this age of heterogeneous systems that integrate different technologies for optimized solution to a specific real world problem, big data system are not an exception to any such rule. As far as the storage aspect of any big data system is concerned, the primary facet in this regard is a storage infrastructure and NoSQL seems to be the right technology that fulfills its requirements. However, every big data application has variable data characteristics and thus, the corresponding data fits into a different data model. This paper presents feature and use case analysis and comparison of the four main data models namely document oriented, key value, graph and wide column. Moreover, a feature analysis of 80 NoSQL solutions has been provided, elaborating on the criteria and points that a developer must consider while making a possible choice. Typically, big data storage needs to communicate with the execution engine and other processing and visualization technologies to create a comprehensive solution. This brings forth second facet of big data storage, big data file formats, into picture. The second half of the research paper compares the advantages, shortcomings and possible use cases of available big data file formats for Hadoop, which is the foundation for most big data computing technologies. Decentralized storage and blockchain are seen as the next generation of big data storage and its challenges and future prospects have also been discussed.

研究の動機と目的

• データ構造とアクセスパターンに基づいて、ドキュメント指向、キー値、グラフ、ワイドカラムの4つの主なNoSQLデータモデルの特徴と多様なビッグデータワークロードへの適合性を分析・比較すること。
• スケーラビリティ、一貫性、クエリサポートなどの主要基準を用いて80のNoSQLデータベースソリューションを評価し、システム設計意思決定を支援すること。
• Hadoopエコシステムで使用されるビッグデータファイル形式（例：Parquet、ORC、Avro）を検討し、パフォーマンス、圧縮効率、分析用途への適性を評価すること。
• 分散型ストレージおよびブロックチェーンを、ビッグデータストレージのための次世代パラダイムとして探求し、その課題と将来の可能性について議論すること。
• 特定のビッグデータアプリケーション要件に適合したストレージインfraストラクチャーやファイル形式の選定を支援する包括的な意思決定フレームワークを提供すること。

提案手法

• データモデルの柔軟性、スケーラビリティ、クエリ機能などの基準を用いて、4つの主要なNoSQLデータモデルの特徴に基づく比較分析を実施する。
• 一貫性モデル、データ分散、サポートされる操作など、実装上の特徴に基づいて80のNoSQLデータベースシステムを調査・分類する。
• Hadoopベースの処理パイプラインにおける性能を評価する観点から、ファイル形式（Parquet、ORC、Avro、RCFileなど）の圧縮効率、カラム指向対行指向ストレージ、パフォーマンスを検討する。
• ストレージシステムと実行エンジン（例：Spark、Hive）および可視化ツールとの統合要件を評価し、エンドツーエンドのデータパイプライン効率を確保すること。
• 分散型ストレージおよびブロックチェーン技術を次世代ストレージソリューションとして探求し、ビッグデータ文脈におけるその可能性と制限を分析する。
• 得られた知見を統合し、アプリケーション固有のデータ特徴とワークロードパターンに基づいてストレージおよびファイル形式を選定するための意思決定フレームワークを構築する。

実験結果

リサーチクエスチョン

• RQ1 データ構造とアクセスパターンに基づいて、ドキュメント指向、キー値、グラフ、ワイドカラムのうち、どのNoSQLデータモデルが特定のビッグデータワークロードに最も適しているか？
• RQ2 80のNoSQLデータベースソリューション間には、技術的およびアーキテクチャ的側面でどのような主な差異があり、それらがシステム設計意思決定にどのように影響を与えるか？
• RQ3 Hadoop環境におけるパフォーマンス、圧縮効率、クエリ効率の観点から、異なるビッグデータファイル形式（例：Parquet、ORC）はどのように比較されるか？
• RQ4 分散型ストレージおよびブロックチェーン技術は、ビッグデータストレージシステムの文脈で、どのような課題と機会を伴っているか？
• RQ5 処理および可視化コンponentsとどのように系統立てて整合化することで、スケーラブルなビッグデータソリューションを構築できるか？

主な発見

• ドキュメント指向型およびワイドカラムストアは、スキーマの柔軟性と高い書き込みスループットを備えており、準構造化データや大規模データワークロードに最適である。
• キー値ストアは、低遅延かつ高スループットのアクセスパターンにおいて優れたパフォーマンスを発揮し、特にキャッシュやセッション管理のシナリオで顕著である。
• グラフデータベースは、ソーシャルネットワーク分析やレコメンデーションシステムなど、複雑な関係性を含むクエリにおいて優れたパフォーマンスを示す。
• カラム指向のファイル形式（例：Parquet、ORC）は、効率的なプッシュダウン述語処理とカラム指向圧縮により、分析ワークロードで行指向形式を大きく上回る性能を発揮する。
• ファイル形式の選定は、クエリ実行時間とストレージ効率に顕著な影響を与えることが確認され、パフォーマンスベンチマークにおいてParquetが大多数のケースで優れた性能を示した。
• 分散型ストレージおよびブロックチェーンは、信頼性と監査可能性の観点で有望な解決策を提供しているが、現時点では生産的なビッグデータシステムにおいてスケーラビリティとパフォーマンスの制限に直面している。