[論文レビュー] Kaleido: An Efficient Out-of-core Graph Mining System on A Single Machine

Cheng Zhao, Zhibin Zhang+3 more|arXiv (Cornell University)|May 23, 2019

Graph Theory and Algorithms参考文献 33被引用数 5

ひとこと要約

Kaleido は、1台のマシン上でディスクをメモリの延長として扱い、グラフマイニングにおける大規模な中間データを効率的に処理する、オフラインコアのグラフマイニングシステムである。中間データ構造としてテンソルを採用し、9頂点未満の部分グラフに対して軽量な固有値ベースの同型判定アルゴリズムを用いることで、Arabesque や RStream に対してそれぞれ 12.3× および 40.0× の高速化を達成した。

ABSTRACT

Graph mining is one of the most important categories of graph algorithms. However, exploring the subgraphs of an input graph produces a huge amount of intermediate data. The 'think like a vertex' programming paradigm, pioneered by Pregel, cannot readily formulate mining problems, which is designed to produce graph computation problems like PageRank. Existing mining systems like Arabesque and RStream need large amounts of computing and memory resources. In this paper, we present Kaleido, an efficient single machine, out-of-core graph mining system which treats disks as an extension of memory. Kaleido treats intermediate data in graph mining tasks as a tensor and adopts a succinct data structure for the intermediate data. Kaleido utilizes the eigenvalue of the adjacency matrix of a subgraph to efficiently solve the subgraph isomorphism problems with an acceptable constraint that the vertex number of a subgraph is less than 9. Kaleido implements half-memory-half-disk storage for storing large intermediate data, which treats the disk as an extension of the memory. Comparing with two state-of-the-art mining systems, Arabesque and RStream, Kaleido outperforms them by a GeoMean 12.3$ imes$ and 40.0$ imes$ respectively.

研究の動機と目的

• 1台のマシン上でグラフマイニング中に発生する膨大な中間データ（埋め込み）を管理する課題に対処すること。
• Arabesque や RStream などの既存システムが、同型判定およびデータ処理中に高い I/O やメモリオーバーヘッドを負っているという非効率性を克服すること。
• ディスクをメモリの延長として扱い、コンactなテンソルベースのデータ構造を用いることで、拡張可能で高性能なグラフマイニングを実現すること。
• 小規模な部分グラフ（≤9 頂点）に特化した、高速で低メモリ消費の同型判定手法を開発し、高コストな正規化ラベル付けを回避すること。
• 非専門家が部分グラフ中心のモデルを用いて、直感的で使いやすい API を通じてグラフマイニングワークロードを記述できるようにすること。

提案手法

• グラフマイニングにおける中間埋め込みをテンソルとして表現することで、コンactで効率的なストレージと処理を可能にする。
• メモリとディスクのハイブリッド管理戦略を実装し、主記憶が枯渇した際に動的にデータをディスクにオフロードする。
• 9頂点未満の部分グラフに対して固有値ベースの同型判定を用い、高コストな正規化ラベル付けを回避し、メモリ使用量を削減する。
• TLE に類似した部分グラフ中心のプログラミングモデルを採用し、宣言的で使いやすい方法でマイニングワークロードを表現する。
• RStream などのシステムで一般的な重複する I/O やジョイン操作を最小限に抑えることで、エッジ誘導および頂点誘導の探索を最適化する。
• スペクトルグラフ理論を活用した、軽量で高性能な同型判定チェッカーを統合し、小規模な部分グラフの高速比較を実現する。

実験結果

リサーチクエスチョン

• RQ1 限られた主記憶を備えた1台のマシン上で、グラフマイニングにおける中間データをどのように効率的に格納・処理できるか。
• RQ2 グラフマイニングワークロードにおいて、小規模な部分グラフに対して固有値ベースの同型判定が正規化ラベル付けを上回る性能を発揮できるか。
• RQ3 オフラインコアのグラフマイニングシステムにおいて、ディスクをメモリの延長として使用した場合の性能への影響は何か。
• RQ4 I/O やメモリ効率の観点から、従来の配列ベースやプレフィックスツリーに基づく表現と比較して、テンソルベースの中間データ構造はどのように異なるか。
• RQ5 部分グラフ中心のプログラミングモデルは、性能を損なわせることなく、複雑なグラフマイニングアルゴリズムの実装をどの程度簡素化できるか。

主な発見

• Kaleido は、Arabesque よりも幾何平均で 12.3×、RStream よりも 40.0× の高速化を達成した。
• Kaleido に組み込まれた固有値ベースの同型判定チェッカーは、メモリ消費量を削減し、Bliss などの正規化ラベル付けツールで一般的な高コストなメモリの割り当て・解放サイクルを回避した。
• ディスクをメモリの延長として扱うことで、Kaleido は中間データ量が最大 135 億個の埋め込み（例：特許グラフにおける 4-埋め込みマイニング）を効率的に管理できた。
• メモリとディスクのハイブリッドストレージ戦略により、繰り返しジョインに依存するシステムと比較して I/O オーバーヘッドを低減し、透明な拡張性を実現した。
• Kaleido の中間データ構造は、Arabesque のプレフィックスツリーに類似した配列よりもコンactであり、ストレージコストとアクセスコストを削減した。
• Kaleido の同型判定アルゴリズムは、Nauty や Bliss などの最先端のライブラリと比較して、特に 9 頂点未満の小規模なグラフに対して高速かつメモリ効率が優れていた。