[論文レビュー] A Survey on Domain-Specific Languages for Machine Learning in Big Data

Ivens Portugal, Paulo S. C. Alencar+1 more|arXiv (Cornell University)|Feb 24, 2016

Scientific Computing and Data Management参考文献 60被引用数 5

ひとこと要約

本調査は、ビッグデータ環境における機械学習に特化したドメイン固有言語（DSLs）およびフレームワークを特定・分析する。設計、実行モデル、応用分野に基づいて既存のツールを分類することで、スケーラブルな機械学習ワークロードにおける言語選定や将来のツール開発を支援する包括的な概要をソフトウェアエンジニアや研究者に提供する。

ABSTRACT

The amount of data generated in the modern society is increasing rapidly. New problems and novel approaches of data capture, storage, analysis and visualization are responsible for the emergence of the Big Data research field. Machine Learning algorithms can be used in Big Data to make better and more accurate inferences. However, because of the challenges Big Data imposes, these algorithms need to be adapted and optimized to specific applications. One important decision made by software engineers is the choice of the language that is used in the implementation of these algorithms. Therefore, this literature survey identifies and describes domain-specific languages and frameworks used for Machine Learning in Big Data. By doing this, software engineers can then make more informed choices and beginners have an overview of the main languages used in this domain.

研究の動機と目的

• ビッグデータワークロードにおける機械学習に使用されるドメイン固有言語（DSLs）を特定・分類すること。
• 既存の機械学習DSLの設計原則、実行モデル、およびターゲット応用分野を分析すること。
• ソフトウェアエンジニアや初心者に対して、利用可能なツールの構造的概要を提供し、意思決定を支援すること。
• 現在のDSLにおけるギャップと機会を特定すること—ビッグデータ機械学習分野において。

提案手法

• ビッグデータにおける機械学習のDSLに関する学術的および技術的資料を対象とした体系的文献レビュー。
• 抽象化レベル、ターゲット実行環境、プログラミングパラダイムに基づくDSLの分類。
• 宣言型対命令型の構文、ビッグデータプラットフォーム（例：Hadoop、Spark）との統合、分散計算のサポートといった主要機能の分析。
• 実際のビッグデータパイプラインにおける表現力、パフォーマンス、使いやすさの観点からフレームワークを比較。
• 特定の機械学習タスク（例：分類、クラスタリング、ディープラーニング）およびデータ処理パターンへのDSLのマッピング。
• 評価および選定のための参考モデルとしての知見の統合—ビッグデータ環境における機械学習DSLの文脈で。

実験結果

リサーチクエスチョン

• RQ1 現在、ビッグデータ環境における機械学習に使用されているドメイン固有言語はどれか？
• RQ2 これらのDSLは、抽象化レベル、実行モデル、ビッグデータプラットフォームとの統合の観点でどのように異なるか？
• RQ3 スケーラビリティとパフォーマンスを考慮した場合、既存の機械学習DSLにおける主な設計上のトレードオフは何か？
• RQ4 DSLは分散システムにおける一般的な機械学習ワークフロー（例：データ前処理、モデル学習、推論）をどのようにサポートするか？
• RQ5 現在のビッグデータ機械学習用DSLにおける制限事項と未解決の課題は何か？

主な発見

• ビッグデータプラットフォームでの機械学習の実装の複雑さに対応するために、多様なDSLが登場している。代表的な例として、Spark MLlib、Hivemall、Distillが挙げられる。
• 宣言型DSL（例：HivemallやHiveQLベースのシステム）は、機械学習アルゴリズムの高水準な表現を可能にするが、低レベルのパフォーマンス制御を犠牲にすることが多い。
• 命令型およびハイブリッドDSL（例：Apache SparkのMLlibに実装されたもの）は、分散コンピューティングの抽象化と統合が良好であり、パフォーマンス面でも優れているが、より深いプログラミングの知識が求められる。
• 多くのDSLは特定のビッグデータフレームワーク（例：Spark、Hadoop）に強く結合されており、ポータビリティを制限し、ベンダーロックインのリスクを高めている。
• ツールの進化にもかかわらず、使いやすさ、パフォーマンスの移植性、ディープラーニングや強化学習を含む高度な機械学習ワークロードのサポートにおいて、依然として大きな課題が残っている。
• 本調査では、高水準な表現力と低レベルの効率性を両立させる、より標準的で組み合わせ可能でポータブルなDSLの開発が急務であると指摘している。