[論文レビュー] Ripple: A Practical Declarative Programming Framework for Serverless Compute

Shannon Joyner, Michael J. MacCoss+2 more|arXiv (Cornell University)|Jan 1, 2020

Cloud Computing and Resource Management参考文献 58被引用数 11

ひとこと要約

Rippleは、機械学習、ゲノム解析、プロテオム解析などのデータ並列アプリケーションを、AWS Lambdaなどのサーバessプラットフォームに最小限のコード変更で移行できる宣言型プログラミングフレームワークである。タスクおよびデータのパーティショニング、スケジューリング、障害耐性、リソースプロビジョニングを自動化し、ユーザー定義のQoS目標を満たす。IaaS/PaaSと同等のコストで最大80倍の性能向上を達成した。

ABSTRACT

Serverless computing has emerged as a promising alternative to infrastructure- (IaaS) and platform-as-a-service (PaaS)cloud platforms for applications with ample parallelism and intermittent activity. Serverless promises greater resource elasticity, significant cost savings, and simplified application deployment. All major cloud providers, including Amazon, Google, and Microsoft, have introduced serverless to their public cloud offerings. For serverless to reach its potential, there is a pressing need for programming frameworks that abstract the deployment complexity away from the user. This includes simplifying the process of writing applications for serverless environments, automating task and data partitioning, and handling scheduling and fault tolerance. We present Ripple, a programming framework designed to specifically take applications written for single-machine execution and allow them to take advantage of the task parallelism of serverless. Ripple exposes a simple interface that users can leverage to express the high-level dataflow of a wide spectrum of applications, including machine learning (ML) analytics, genomics, and proteomics. Ripple also automates resource provisioning, meeting user-defined QoS targets, and handles fault tolerance by eagerly detecting straggler tasks. We port Ripple over AWS Lambda and show that, across a set of diverse applications, it provides an expressive and generalizable programming framework that simplifies running data-parallel applications on serverless, and can improve performance by up to 80x compared to IaaS/PaaS clouds for similar costs.

研究の動機と目的

• サーバーレスプラットフォームへのデータ並列アプリケーションのデプロイの複雑さに対処し、低レベルのシステム的懸念を抽象化する。
• 単一マシンアプリケーションを最小限の開発者作業でサーバーレス実行環境にシームレスに移行できるようにする。
• ユーザー定義のサービス品質（QoS）要件を満たすために、リソースプロビジョニング、タスクスケジューリング、障害耐性を自動化する。
• 機械学習、ゲノム解析、プロテオム解析を含む多様な科学的・分析的ワークロードを、汎用的で宣言型のインターフェースを通じてサポートする。
• ストレッガータスクの検出と再スケジューリングを事前に実施することで、実行時間の予測可能性とコスト効率を向上させる。

提案手法

• 順次実行および並列実行のフェーズを明示的に表現できる高水準の宣言型APIを提供し、データフローパイプラインを記述可能にする。
• 入力データをチャンクに自動的にパーティショニングし、それらをサーバーレス関数にマップし、フェーズ間のデータ依存関係を管理する。
• 履歴ジョブプロファイリングを用いて、QoS目標を満たすために最適な並列実行度（各フェーズにおける同時実行Lambda数）を推定する。
• ラウンドロビン、FIFO、デッドラインベースのスケジューリングなど、動的スケジューリングポリシーを実装し、ジョブの優先順位を制御する。
• 実行進捗を監視することでストレッガータスクを早期に検出し、再実行することで全体のジョブ完了時間を短縮する。
• すべての計算にサーバーレスプリミティブ（例：AWS Lambda）を活用し、恒久的なインfraストラクチャや長時間稼働するクラスタの必要性を排除する。

実験結果

リサーチクエスチョン

• RQ1 モノリシックなデータ並列アプリケーションを、架空のアーキテクチャ再設計を伴わず、宣言型フレームワークによってサーバーレスワークロードに自動的に変換できるか？
• RQ2 ユーザーが指定したパフォーマンスおよびQoS目標を満たすために、必要な並列実行度をどれだけ正確に予測できるか？
• RQ3 早期ストレッガータスク検出による自動障害耐性は、ジョブ完了時間とパフォーマンスの予測可能性をどの程度向上できるか？
• RQ4 異なるデータアクセスパターンと計算強度を示す多様なワークロードにおいて、フレームワークの性能はどの程度か？
• RQ5 複雑なマルチフェーズデータフローパイプラインをサーバーレスバックエンドで処理するにあたり、高い効率と低コストを維持できるか？

主な発見

• Rippleは、同コストでIaaS/PaaSと比較して最大80倍のパフォーマンス向上を達成し、顕著な効率向上を示した。
• 履歴プロファイリングに基づき、新しいジョブの実行に必要な並列実行度を正確に推定でき、信頼性の高いQoSの提供が可能になった。
• ストレッガータスクの早期検出と再スケジューリングにより、多様なワークロードにおいてジョブ完了時間が短縮され、パフォーマンスの予測可能性が向上した。
• Rippleは、機械学習、ゲノム解析、プロテオム解析の3つの大規模アプリケーションを成功裏にサポートし、科学的分野への汎用性を実証した。
• ジョブの到着パターンや並列実行レベルの変化に対しても、Rippleは強固なパフォーマンスを維持した。これにより、その適応性とスケーラビリティが裏付けられた。
• Rippleのオープンソース実装はAWS Lambda上で複数の研究グループに採用されており、実用的で使いやすいことが確認された。