[論文レビュー] DataHub: Collaborative Data Science & Dataset Version Management at Scale

Anant Bhardwaj, Souvik Bhattacherjee+5 more|arXiv (Cornell University)|Sep 2, 2014

Scientific Computing and Data Management被引用数 4

ひとこと要約

本論文では、大規模で変化し続けるデータセットのスケーラブルでバージョン管理された管理を可能にする、データセットバージョン制御システム（DSVC）を備えた共同データサイエンスプラットフォーム「DataHub」を提案する。GitにインspiredされたDSVCは、バージョニング、マージ、クエリをサポートし、ストレージ効率とクエリパフォーマンスの両立を図るための二重表現（バージョンファーストおよびレコードファースト）を採用しており、冗長性を顕著に低減し、データサイエンスチームにおける再現可能性を向上させる。

ABSTRACT

Relational databases have limited support for data collaboration, where teams collaboratively curate and analyze large datasets. Inspired by software version control systems like git, we propose (a) a dataset version control system, giving users the ability to create, branch, merge, difference and search large, divergent collections of datasets, and (b) a platform, DataHub, that gives users the ability to perform collaborative data analysis building on this version control system. We outline the challenges in providing dataset version control at scale.

研究の動機と目的

• 大規模で多様性に富み、急速に変化するデータセットを対象とした、スケーラブルで共同利用可能なデータセットバージョニングの欠如を解消すること。
• 研究チームにおけるストレージの肥大化とコストを低減するため、効率的なバージョン管理と重複データコピーの排除を可能にすること。
• プロバンセンス追跡、バージョンクエリ、複数のユーザーとデータセット間でのコラボレーションをサポートするシステムを提供すること。
• リトリーブ効率とクエリパフォーマンスの両方を最適化する二重表現ストレージモデル（バージョンファーストおよびレコードファースト）を設計すること。
• コードのGitHubに類似したツールを備えたホステッドプラットフォーム（DataHub）を構築し、データクリーニング、検索、可視化を支援することで、共同データ分析を容易にすること。

提案手法

• Gitにインspiredされたデータセットバージョン制御システム（DSVC）を設計するが、構造化された大規模データセットと豊富なクエリ機能を拡張したものとする。
• 二重ストレージ表現の実装：バージョンファーストは効率的なバージョン取得を、レコードファーストは効率的なプロパティベースのバージョン発見を実現する。
• バージョニンググラフにおけるレコードのバージョン所属関係を圧縮ビットマップで表現し、複雑なバージョンクエリのための効率的な集合演算（OR、ANDなど）を可能にする。
• バージョングラフの最適エンコーディングを選択するための最適化技術を採用し、特に「スティーナーデータセット」を用いてリトリーブコストを低減する。
• 頻繁に実行されるVQL（バージョンクエリ言語）クエリのインデックス化とキャッシュを採用し、パフォーマンスを向上させる。
• DSVC上にホステッドプラットフォーム（DataHub）を構築し、データクリーニング、検索、統合、可視化のツールを統合して、共同データサイエンスを支援する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、共同データサイエンス環境における大規模で多様性に富み、急速に変化するデータセットをスケーラブルにバージョニングできるか？
• RQ2 複数バージョンのデータセット管理において、ストレージ効率とクエリパフォーマンスの両立を図るための二重データ表現戦略は何か？
• RQ3 バージョニングシステムは、大規模な研究チームにおけるストレージコストと重複データコピーをどのように低減できるか？
• RQ4 複数のユーザーとバージョン間で、効率的なプロバンセンス追跡とデータ分析の再現性を実現するメカニズムは何か？
• RQ5 ホステッドプラットフォームは、バージョニングをデータクリーニング、検索、可視化ツールと統合することで、どのようにデータサイエンスのコラボレーションを強化できるか？

主な発見

• 二重表現モデル（バージョンファーストおよびレコードファースト）により、完全なバージョンの効率的取得と、特定条件を満たすバージョンの効率的発見が可能になり、パフォーマンスとストレージの両立が達成される。
• レコードのバージョン所属関係を圧縮ビットマップで表現することで、複雑なバージョンクエリのための効率的集合演算（例：OR、AND）が可能となり、クエリ効率が向上する。
• 重複データコピーの排除によりストレージコストが削減され、計算生物学グループの事例研究では、年間最大10万ドルのコスト削減が見込まれる。
• 「スティーナーデータセット」（追加の中間バージョン）の使用により、バージョングラフ構造の最適化によってリトリーブコストを低減できるが、最適エンコーディングの探索空間は大きく、ヒューリスティクスの適用が不可欠である。
• プラットフォーム設計により、従来のファイルレベルAPIとの後方互換性が確保され、研究者が既存のスクリプトを変更せずに利用可能となり、導入障壁が低減される。
• プロバンセンス追跡を可能にする仕組みにより、ユーザーは最後にどのデータセットが使用されたか、およびそれが再現性にとって不可欠かどうかを特定でき、データ削除に伴うストレスが軽減される。