[論文レビュー] Putting Lipstick on Pig: Enabling Database-style Workflow Provenance

Yael Amsterdamer, Susan B. Davidson+4 more|arXiv (Cornell University)|Dec 31, 2011

Scientific Computing and Data Management参考文献 14被引用数 8

ひとこと要約

この論文では、Pig Latinモジュールの内部状態と入力固有の依存関係を捉えるために、データベース風の細粒度 provenance とワークフロー風の実行追跡を組み合わせた、Lipstickと呼ばれる provenance フレームワークを提示する。本論文では、ズームイン/ズームアウト操作とグラフ変換を備えた新規 provenance グラフを導入し、大規模ワークロードにおいても1秒未塔の高速性能を実現するインタラクティブな provenance クエリを可能にする。

ABSTRACT

Workflow provenance typically assumes that each module is a "black-box", so that each output depends on all inputs (coarse-grained dependencies). Furthermore, it does not model the internal state of a module, which can change between repeated executions. In practice, however, an output may depend on only a small subset of the inputs (fine-grained dependencies) as well as on the internal state of the module. We present a novel provenance framework that marries database-style and workflow-style provenance, by using Pig Latin to expose the functionality of modules, thus capturing internal state and fine-grained dependencies. A critical ingredient in our solution is the use of a novel form of provenance graph that models module invocations and yields a compact representation of fine-grained workflow provenance. It also enables a number of novel graph transformation operations, allowing to choose the desired level of granularity in provenance querying (ZoomIn and ZoomOut), and supporting "what-if" workflow analytic queries. We implemented our approach in the Lipstick system and developed a benchmark in support of a systematic performance evaluation. Our results demonstrate the feasibility of tracking and querying fine-grained workflow provenance.

研究の動機と目的

• すべての入力がすべての出力に影響すると仮定する粗粒度のワークフロープロベンナンスの限界を解消すること。
• 特に反復的または状態を持つワークフローにおいて、出力が入力の部分集合にのみ依存するような細粒度のデータ依存関係をモデル化すること。
• データラインエージェンスとモジュール呼び出し状態の両方を追跡するため、データベース風の provenance（半環アノテーションを介して）とワークフロー実行 provenance を統合すること。
• ズームイン/ズームアウトのような新しいグラフ操作を導入し、動的な粒度制御を可能にするインタラクティブな provenance 分析を可能にすること。
• 現実的で大規模なデータワークフローにおける細粒度 provenance の実現可能性とパフォーマンスを実証すること。

提案手法

• Pig Latinスクリプト内のタプル導出を追跡するため、半環アノテーションを用いたデータベース provenance を拡張する。
• モジュールの呼び出しを provenance グラフ内のノードとしてモデル化し、エッジはモジュール間のデータフローと制御フローを表す。
• 繰り返し実行される中での細粒度の依存関係と内部状態を効果的に表現する、新規 provenance グラフ構造を導入する。
• グラフ変換操作をサポート：ZoomIn（特定のデータラインエージェンスに焦点を当てる）と ZoomOut（モジュール間でラインエージェンスを集約する）。
• サブグラフと削除操作を用いて「もし〜だったら」クエリを実装し、入力やモジュール状態の変更をシミュレートする。
• 実世界のワークロード（自動車ディーラーシステムと北極基地）を用い、合成データと実データを用いてパフォーマンスを評価するベンチマークを実施する。

実験結果

リサーチクエスチョン

• RQ1 出力が入力の部分集合や内部モジュール状態にのみ依存するような、データ集約的ワークロードにおいて、細粒度の provenance を効果的に捉えることができるか？
• RQ2 パフォーマンスを損なわずに、ズームイン/ズームアウトのような動的なクエリ粒度制御を可能にするために、provenance グラフをどのように構造化できるか？
• RQ3 provenance モデルは、「もし入力が違っていたらどうなるか？」のような「もし〜だったら」分析クエリをサポートできるか？
• RQ4 特に多数のモジュールインスタンスを含む場合に、provenance グラフをスケールに応じてどの程度効率的にクエリできるか？
• RQ5 データベース風 provenance とワークフロー実行モデルの統合を、現実世界のシステムにおいて実用的かつ高性能に実現できるか？

主な発見

• Lipstickシステムは、Pig Latinベースのワークロードにおいて、細粒度の依存関係と内部モジュール状態を成功裏に捉え、粗粒度のブラックボックス仮定を超えた詳細なラインエージェンス追跡を可能にした。
• ZoomOut および ZoomIn 操作のクエリ処理時間は1秒未塔であり、グラフサイズに比例する線形性を示しており、集約クエリはモジュールインスタンス数が少ないため、ディーラークエリよりも高速であった。
• サブグラフクエリは結果サイズにほぼ比例してスケーリングされ、40,000ノードを超えるグラフですでに0.2秒未塔で完了した。
• 削除操作は非常に効率的であり、ほとんどのクエリが1ms未塔で実行され、すべて13ms未塔で完了しており、状態変更シミュレーションのパフォーマンスが優れていることが示された。
• ワークロードのトポロジーによってパフォーマンスが変動する：高ファンアウト（例：ファンアウト3）の密なワークフローではエッジ数の増加によりクエリ時間が長くなった。
• 本フレームワークは、複雑な「もし〜だったら」シナリオを含む実用的でインタラクティブな provenance 分析をサポートしており、現実世界のデータワークロードのデバッグや監査に実現可能であることを示した。