[論文レビュー] Infrastructure for Usable Machine Learning: The Stanford DAWN Project

Peter Bailis, Kunle Olukotun+2 more|arXiv (Cornell University)|May 22, 2017

Data Stream Mining Techniques参考文献 23被引用数 16

ひとこと要約

スタンフォードのDAWNプロジェクトは、データ準備や特徴工学、デプロイメント、モニタリングを含むエンドツーエンドのML開発を自動化することで、機械学習を民主化する包括的なシステムインfraを提案している。非エキスパートが効率的にプロダクショングレードのMLアプリケーションを構築できるようにする。新規のシステム、ハードウェアに配慮した最適化、分散ランタイムを統合することで、MLシステムの構築・運用に要する時間、コスト、専門知識を大幅に削減することを目的としている。

ABSTRACT

Despite incredible recent advances in machine learning, building machine learning applications remains prohibitively time-consuming and expensive for all but the best-trained, best-funded engineering organizations. This expense comes not from a need for new and improved statistical models but instead from a lack of systems and tools for supporting end-to-end machine learning application development, from data preparation and labeling to productionization and monitoring. In this document, we outline opportunities for infrastructure supporting usable, end-to-end machine learning applications in the context of the nascent DAWN (Data Analytics for What's Next) project at Stanford.

研究の動機と目的

• 現在、大規模な専門的エンジニアとデータサイエンティストのチームを必要としている機械学習アプリケーションの構築にかかる高コストと高複雑性に対処すること。
• アルゴリズムのイノベーションではなく、人的に負担が大きいデータ準備、特徴工学、プロダクション化のボトル neck に起因するML開発の遅延を克服すること。
• 機械学習、分散システム、ハードウェアの深い専門知識を持たない分野の専門家が、高品質でプロダクション対応のMLシステムを構築・デプロイできるように、機械学習を民主化すること。
• 医療やビジネスアナリティクスを含む多様な分野において、MLアプリケーションの開発・デプロイ・モニタリングに要する時間、コスト、工学的作業を削減すること。
• データパイプライン、モデルトレーニング、ハードウェアアクセラレーション、分散実行を統合したフルスタックでオープンソースのインfraを構築し、エンドツーエンドのML開発をシームレスにすること。

提案手法

• データインジェクション、特徴抽出、モデルトレーニング、プロダクションデプロイメントを統合した単一で使いやすいフレームワークとしてのDAWNスタックと呼ばれるフルスタックシステムを設計すること。
• データラベル付けと特徴工学の簡素化を図るため、高水準の抽象化とドメイン固有言語（DSL）を活用し、人的に負担が大きい手作業によるデータキュレーションへの依存を減らすこと。
• 低精度アクセラレーターや再構成可能なFPGAを含む、新規のハードウェア基盤に最適化されたMLワークロードを設計することで、パフォーマンスとエネルギー効率を向上させること。
• 非同期処理、負荷分散、フェイルセーフの自動管理を可能にする分散ランタイムを開発し、異種クラスタ上で効率的なスケールアウトトレーニングとインファレンスを実現すること。
• TensorFlow や Spark といった既存のMLフレームワークと連携することで、広範な互換性と採用を確保するとともに、自動チューニングと監視機能を拡張すること。
• アルゴリズムとハードウェアの共同設計に関する理論的知見を応用し、ターゲットプラットフォーム上で最適なパフォーマンスを発揮するように、自動的かつハードウェアに配慮した学習アルゴリズムのチューニングを可能にすること。

実験結果

リサーチクエスチョン

• RQ1 機械学習の指定とデプロイメントに要する時間とコストを、システムやMLの深い専門知識を持たないユーザーにとって大幅に削減するにはどうすればよいか？
• RQ2 データ準備、特徴工学、モデルプロダクション化を自動化しつつ、高いパフォーマンスと信頼性を維持できるような、システム抽象化とプログラミングモデルは何か？
• RQ3 特に低精度計算と再構成可能コンピューティングを活用したハードウェアに配慮したシステム設計は、MLワークロードの効率性とスケーラビリティをどのように向上させられるか？
• RQ4 分散ML実行におけるデバイス内（例：GPU/FPGA）およびデバイス間（例：クラスタ）の並列処理を効果的に管理できる統一プログラミングモデルは何か？
• RQ5 特に分散環境およびサーバーヲス環境において、多様なハードウェアおよびネットワーク環境に最適なパフォーマンスを発揮するように、学習アルゴリズムを自動的にチューニングするにはどうすればよいか？

主な発見

• DAWNプロジェクトは、産業界のMLにおいて、新しいモデルの開発よりもデータ準備、特徴工学、プロダクション化に多大な工数が費やされていることを実証している。
• Snorkel や MacroBase、DeepDive といった既存のシステムがすでに生産環境で強く実現可能であることが示されており、DAWNアプローチの実現可能性を裏付けている。
• 低精度実行やFPGAベースのアクセラレーションを含むハードウェアに配慮した最適化は、モデルの精度を損なわずにパフォーマンスを大幅に向上させ、消費電力を削減できる。
• 非同期処理、負荷分散、フェイルセーフの自動管理を実現する分散ランタイムは、クラスタ上でスケーラブルかつ信頼性の高いMLモデルのデプロイメントを可能にしている。
• 高水準の抽象化と低水準のシステム、ハードウェア最適化の統合は、 usability の大幅な向上をもたらし、非エキスパートユーザーの参入障壁を著しく低下させている。
• 初期の結果から、MLスタック全体にわたるエンドツーエンドの自動化が、プロダクションMLシステムの構築・運用に要する時間とコストを劇的に削減できることを確認している。