[論文レビュー] Lightweight Asynchronous Snapshots for Distributed Dataflows

Paris Carbone, Gyula Fóra+3 more|arXiv (Cornell University)|Jun 29, 2015

Cloud Computing and Resource Management参考文献 15被引用数 53

ひとこと要約

本論文では、分散データフローにおける状態保持ストリーム処理のための軽量でブロッキングのない故障耐性アルゴリズムである非同期バリアスナップショット（ABS）を提案する。ABSは、サイクルのないトポロジではオペレータの状態のみを永続化し、サイクルのあるトポロジでは最小限のレコードを選択的にログ記録することでスナップショットサイズを最小限に抑え、実行時オーバーヘッドを最小限に抑えながらスループットとレイテンシに敏感なワークロードにおいて、同期的および従来の非同期スナップショット手法を凌駆する線形スケーラビリティを達成する。

ABSTRACT

Distributed stateful stream processing enables the deployment and execution of large scale continuous computations in the cloud, targeting both low latency and high throughput. One of the most fundamental challenges of this paradigm is providing processing guarantees under potential failures. Existing approaches rely on periodic global state snapshots that can be used for failure recovery. Those approaches suffer from two main drawbacks. First, they often stall the overall computation which impacts ingestion. Second, they eagerly persist all records in transit along with the operation states which results in larger snapshots than required. In this work we propose Asynchronous Barrier Snapshotting (ABS), a lightweight algorithm suited for modern dataflow execution engines that minimises space requirements. ABS persists only operator states on acyclic execution topologies while keeping a minimal record log on cyclic dataflows. We implemented ABS on Apache Flink, a distributed analytics engine that supports stateful stream processing. Our evaluation shows that our algorithm does not have a heavy impact on the execution, maintaining linear scalability and performing well with frequent snapshots.

研究の動機と目的

• 状態保持ストリーム処理システムにおける同期的および従来の非同期スナップショットが引き起こす高い実行時オーバーヘッドと過剰なスナップショットサイズを解消すること。
• リアルタイムでクラウドベースのデータフロー・システムにおいて、スループットとレイテンシに与える影響を最小限に抑えた故障耐性を実現すること。
• サイクルのない実行グラフにおいて、転送中のレコードの永続的ログ記録を回避することで、ストレージのオーバーヘッドを削減すること。
• 最小限の選択的レコードログ記録で、サイクルのあるデータフロー・トポロジに対しても効率的なスナップショットを拡張すること。
• 頻繁なスナップショットにおいても、線形スケーラビリティを達成し、低い実行時オーバーヘッドを維持すること。

提案手法

• 計算を停止せずにバリアを用いて非同期にスナップショットをトリガーする、非同期バリアスナップショット（ABS）アルゴリズムを提案する。
• サイクルのないトポロジでは、ABSは転送中のレコードを省略し、オペレータの状態のみをキャプチャするため、スナップショットサイズを最小限に抑える。
• サイクルのあるトポロジでは、グラフの特定部分に下流バックアップを適用し、回復に必要なレコードのみをログ記録する。
• ジョブマネージャー上のコーディネータアクターがソースに段階的バリアを注入し、グローバルスナップショットを調整する。
• 分散永続ストレージから最後にグローバルにスナップショットされた状態を復元する回復メカニズムを実装する。
• 各キーの集計とソースオフセットのチェックポイントをサポートするため、Apache FlinkのOperatorStateインタフェースと統合する。

実験結果

リサーチクエスチョン

• RQ1 非同期実行をブロッキングせずに、サイクルのないデータフロー・トポロジで最小限のスナップショットサイズを達成できるスナップショッティングアルゴリズムは存在するか？
• RQ2 ストレージのオーバーヘッドを低減しつつ、サイクルのあるデータフロー・グラフで一貫性のあるグローバルスナップショットを効率的に計算するにはどうすればよいか？
• RQ3 リアルタイム・ストリーム処理において、同期的および従来の非同期手法と比較して、非同期スナップショッティングの実行時影響はどの程度か？
• RQ4 提案されたアルゴリズムは、クラスタサイズとスナップショット頻度の増加に対しても線形スケーリングを維持できるか？
• RQ5 状態保持ストリーム処理において、スナップショットのオーバーヘッド、ストレージコスト、回復効率の間にはどのようなトレードオフがあるか？

主な発見

• ABSは、ベースライン実行および故障耐性実行の両方で線形スケーラビリティを達成し、5〜40ノードのクラスタノードにおいても安定したスループットを維持する。
• ABSの実行時オーバーヘッドは、特に頻繁なスナップショットにおいて同期的スナップショットよりも顕著に低い。後者は計算の停止によりパフォーマンスの急増を引き起こす。
• 同期的スナップショットは、計算の停止により高いオーバーヘッドを生じさせ、レイテンシに敏感なアプリケーションにおけるリアルタイムSLAを違反する。
• ABSは、サイクルのないグラフにおいて転送中のレコードの永続的ログ記録を回避することで、スナップショットサイズを削減し、オペレータの状態にのみ焦点を当てる。
• サイクルのあるトポロジでは、ABSが回復に必要なレコードのみをログ記録することで、ストレージコストと再処理コストを低減する。
• 評価結果から、ABSは最小限の影響で高いスループットを維持でき、正確に一度ずつ（exactly-once）のセマンティクスを必要とする生産ワークロードに適していることが確認された。