[論文レビュー] Real-Time Machine Learning: The Missing Pieces

Robert Nishihara, Philipp Moritz+8 more|arXiv (Cornell University)|Mar 11, 2017

Data Stream Mining Techniques参考文献 17被引用数 14

ひとこと要約

本論文は、ミリ秒レベルの遅延、高スループット、動的タスクグラフ、および異種ワークロードをサポートするリアルタイム機械学習ワークロード向けの新しい分散実行フレームワークを提案する。強化学習ワークロードにおいて、最先端のBSPフレームワークよりも63倍の高速化を達成した。本システムは論理的に集中化された制御プレーンとハイブリッドスケジューラを採用し、低オーバーヘッドでフェイルセーフな実行を実現するとともに、完全なデバッグ可能性とプロファイリング支援を備えている。

ABSTRACT

Machine learning applications are increasingly deployed not only to serve predictions using static models, but also as tightly-integrated components of feedback loops involving dynamic, real-time decision making. These applications pose a new set of requirements, none of which are difficult to achieve in isolation, but the combination of which creates a challenge for existing distributed execution frameworks: computation with millisecond latency at high throughput, adaptive construction of arbitrary task graphs, and execution of heterogeneous kernels over diverse sets of resources. We assert that a new distributed execution framework is needed for such ML applications and propose a candidate approach with a proof-of-concept architecture that achieves a 63x performance improvement over a state-of-the-art execution framework for a representative application.

研究の動機と目的

• フィードバックループで動作する動的で高スループットかつ低遅延要件を満たすリアルタイムで反応的な機械学習システムの増大するニーズに対応する。
• 低遅延タスク実行、動的グラフ構築、異種リソースサポートを含む、現代のリアルタイムMLワークロードのための7つの主要要件（R1–R7）を特定する。
• 動的タスク生成、任意のデータフロー依存関係、異種カーネルを損なわず、フェイルセーフ性やデバッグ可能性を維持できる柔軟なプログラミングモデルとシステムアーキテクチャを設計する。
• 既存のフレームワークが、とくに強化学習やオンライン計画において、リアルタイムMLアプリケーションが求める統合的なパフォーマンスと柔軟性の要件を満たしていないことを実証する。

提案手法

• フェイルセーフ性とデバッグのためのステートレス実行とラインレージリプレイを可能にする論理的に集中化された制御プレーンを提案する。
• ノードレベルとクラスタレベルのスケジューラの両方でスケジューリング意思決定を分割することで、低遅延と高スループットの両方を最適化するハイブリッドスケジューラを実装する。
• 非同期タスク送信とフェUTUREを介して、動的タスク生成（R3）、異種タスク（R4）、任意のデータフロー依存関係（R5）をサポートするプログラミングモデルを設計する。
• プロトタイプシステムを用いてエンドツーエンドの遅延とスループットを評価し、タスク送信および結果取得時間をそれぞれ290μs（ローカル）および1ms（リモート）で測定する。
• 並列シミュレーションとGPUベースのポリシー適合を含む強化学習ワークロードで、Sparkおよびシングルスレッドベースラインと比較してベンチマークを実施する。
• 『wait』などのプリミティブを活用してパイプライン実行を可能にし、適応的ハイパーパramータ探索などの複雑な制御フローをサポートする。

実験結果

リサーチクエスチョン

• RQ1 分散実行フレームワークは、リアルタイムMLワークロードにおいて、ミリ秒レベルのエンドツーエンド遅延を達成しながら、1秒間に数百万タスクの高スループット実行を可能にすることができるか？
• RQ2 強化学習パイプラインにおけるモンテカルロツリー探索を含め、実行中に任意の細粒度のタスクグラフを動的に構築・管理する方法は何か？
• RQ3 CPUとGPUの異なるリソース要件や実行時間を持つ異種タスクを効率的にスケジューリングするためのアーキテクチャ設計は何か？
• RQ4 低遅延・高スループット・動的ワークロードに最適化されたシステムで、透過的なフェイルセーフ性と完全なデバッグ可能性を維持することは可能か？
• RQ5 新しいフレームワークは、Sparkのような従来のバッチ同期並列システムを上回る性能を、リアルタイムMLワークロードで示せるか？

主な発見

• プロトタイプシステムは、ローカルタスク実行において290μs、リモートタスク実行において1msのエンドツーエンドタスク遅延を達成し、ミリ秒レベルのパフォーマンスを実証した。
• 並列シミュレーションとGPUベースのポリシー適合を含む代表的な強化学習ワークロードにおいて、Sparkベースの実装よりも63倍の高速化を達成した。
• 同じワークロードのシングルスレッド実装よりも7倍速く、低オーバーヘッドのタスク管理による並列化の利点を顕著に示した。
• ハイブリッドスケジューラの設計は、中央集権的スケジューラで見られるバッチングのトレードオフを回避しながら、低遅延タスクスケジューリングと高スループットの両方を効果的にバランスさせた。
• 提案されたプログラミングモデルは、最小限のコード変更でパイプライン実行やネストされたハイパーパramータ探索といった複雑な制御パターンを可能にし、実用的な柔軟性の高さを示した。
• システムは透過的なフェイルセーフ性を維持するとともに、完全なデバッグ可能性とプロファイリングをサポートしており、高性能システムでしばしば犠牲にされがちな主要な実用的懸念を解決した。