[論文レビュー] Storing and Querying Large-Scale Spatio-Temporal Graphs with High-Throughput Edge Insertions

Mengsu Ding, Muqiao Yang+1 more|arXiv (Cornell University)|Apr 21, 2019

Data Management and Algorithms参考文献 30被引用数 4

ひとこと要約

本稿では、100兆エッジに達する大規模な時空グラフを、1日1兆エッジの高スループットなエッジ挿入を伴って効率的に格納・クエリする分散フレームワークPASTを提案する。PASTは、オブジェクト頂点と時空インデックスに基づく新規なパーティショニング戦略を採用し、マシン間通信を最小限に抑えることで、JanusGraph や Greenplum、ST-Hadoop といった最先端のシステムと比較して、クエリ性能が1〜4桁向上することを達成した。

ABSTRACT

Real-world graphs often contain spatio-temporal information and evolve over time. Compared with static graphs, spatio-temporal graphs have very different characteristics, presenting more significant challenges in data volume, data velocity, and query processing. In this paper, we describe three representative applications to understand the features of spatio-temporal graphs. Based on the commonalities of the applications, we define a formal spatio-temporal graph model, where a graph consists of location vertices, object vertices, and event edges. Then we discuss a set of design goals to meet the requirements of the applications: (i) supporting up to 10 billion object vertices, 10 million location vertices, and 100 trillion edges in the graph, (ii) supporting up to 1 trillion new edges that are streamed in daily, and (iii) minimizing cross-machine communication for query processing. We propose and evaluate PAST, a framework for efficient PArtitioning and query processing of Spatio-Temporal graphs. Experimental results show that PAST successfully achieves the above goals. It improves query performance by orders of magnitude compared with state-of-the-art solutions, including JanusGraph, Greenplum, Spark and ST-Hadoop.

研究の動機と目的

• 最大100兆エッジ、1日1兆エッジの挿入を伴う大規模な時空グラフの格納とクエリ処理の課題に対処すること。
• 時空グラフの分散クエリ処理において、マシン間通信を最小限に抑えること。
• 人、オブジェクト、出来事の空間的・時間的関係をモデル化したグラフ上で、リアルタイムかつ高速度なデータインジェストと複雑な分析クエリをサポートすること。
• JanusGraph や Greenplum、ST-Hadoop といった既存システムを上回る性能を発揮する、スケーラブルで効率的なフレームワークを設計すること。

提案手法

• 位置頂点、オブジェクト頂点、および時空的相互作用を表すイベントエッジを有する形式的二部時空グラフモデルを提案する。
• オブジェクト頂点のための中粒度ハッシュパーティショニング方式を採用し、データの均等な分散と協調処理のオーバーヘッド低減を実現する。
• 時間と位置に基づくエッジ上の時空インデックスを導入し、クエリ処理中に関係のないデータを効率的に除外できるようにする。
• ワーカーノードの利用状況メトリクスに基づいて、頂点グループを動的に移行するコordinatorベースの負荷分散メカニズムを設計する。
• 選択述語のプッシュダウンと局所的計算によるデータシャッフルの最小化を通じて、クエリ実行を最適化する。
• RDBMS上にインデックスレイヤーとして統合可能であり、リレーショナルとグラフワークロードのハイブリッド処理を加速できる。

実験結果

リサーチクエスチョン

• RQ1 最大100兆エッジと1日1兆エッジの挿入を伴う時空グラフを、効率的に格納・クエリできる分散システムはどのように設計できるか？
• RQ2 大規模なグラフ処理において、負荷バランスを維持しつつ、マシン間通信を最小限に抑えるパーティショニング戦略は何か？
• RQ3 時空インデキシングは、複雑なグラフクエリにおけるアクセス対象データ量をどのように削減できるか？
• RQ4 カスタムのパーティショニングとインデキシングフレームワークは、実世界のワークロードにおいて、一般向けグラフ管理システムやデータ管理システムをどの程度上回るか？

主な発見

• PASTは、すべてのベンチマーククエリにおいて、JanusGraph や Greenplum、Spark、ST-Hadoop と比較して、1〜4桁のクエリ性能向上を達成した。
• 長時間範囲クエリ（Q3およびQ4）において、PASTはシステムの過負荷を回避したが、Cassandra+Spark や ST-Hadoop+Spark は、過剰なデータシャッフルにより過負荷に陥った。
• Greenplumはオブジェクトベースのパーティショニングにより単純なクエリでは優れた性能を発揮したが、全データスキャンを要する複雑なクエリでは性能が著しく低下した。
• PASTの時空インデックスにより、特に範囲ベースおよび類似度ベースのクエリにおいて、データアクセス量が数桁削減された。
• グループ移行による動的負荷分散により、変動するワークロード下でもシステム効率が維持された。コordinator駆動の再バランスにより、ノードの利用状況は平均値の±5%以内に保たれた。
• 予備評価では、PASTが100億オブジェクト頂点、1000万位置頂点、100兆エッジの格納にスケーリング可能であり、実世界アプリケーションのターゲット規模を満たしていることが示された。