[論文レビュー] Declarative Machine Learning - A Classification of Basic Properties and Types

Matthias Böehm, Alexandre Evfimievski+2 more|arXiv (Cornell University)|May 19, 2016

Machine Learning and Data Classification参考文献 29被引用数 14

ひとこと要約

この論文は、データ独立性、操作抽象化、結果の正しさといったコアな特性に基づき、構文に依存しない記述的機械学習（ML）の分類法を提案する。システムをタイプに分類する——記述的MLタスク、記述的MLアルゴリズム、ライブラリ——、MLbase、SystemML、DeepDiveといった多様なシステムがこれらの原則を満たしていることを示し、それぞれのタイプに特化した標準化されたベンチマークと仕様言語の開発を可能にする。

ABSTRACT

Declarative machine learning (ML) aims at the high-level specification of ML tasks or algorithms, and automatic generation of optimized execution plans from these specifications. The fundamental goal is to simplify the usage and/or development of ML algorithms, which is especially important in the context of large-scale computations. However, ML systems at different abstraction levels have emerged over time and accordingly there has been a controversy about the meaning of this general definition of declarative ML. Specification alternatives range from ML algorithms expressed in domain-specific languages (DSLs) with optimization for performance, to ML task (learning problem) specifications with optimization for performance and accuracy. We argue that these different types of declarative ML complement each other as they address different users (data scientists and end users). This paper makes an attempt to create a taxonomy for declarative ML, including a definition of essential basic properties and types of declarative ML. Along the way, we provide insights into implications of these properties. We also use this taxonomy to classify existing systems. Finally, we draw conclusions on defining appropriate benchmarks and specification languages for declarative ML.

研究の動機と目的

• 記述的MLの定義に曇りを生じさせないよう、体系的かつ構文に依存しない分類フレームワークを確立すること。
• 記述的MLシステムを特徴付ける基本的かつ本質的な特性——物理的データ独立性、データフロー独立性、結果の正しさ——を特定し、形式化すること。
• 提案された分類法に従って、既存のシステム（例：MLbase、SystemML、DeepDive）を体系的に分類し、記述的MLの原則との整合性を明確にすること。
• 記述的MLシステムの特徴であるワークロードと抽象化レベルの違いを反映した、タイプ別ベンチマークとドメイン特化の仕様言語の導入を提唱すること。
• アルゴリズムの意味論と低レベルの実行詳細を分離することで、移植性があり最適化可能でスケーラブルなMLシステムの開発を支援すること。

提案手法

• 3つのコアな特性を定義する：(1) 物理的データ独立性（抽象データ型が格納および分散の詳細を隠蔽）、(2) データフロー独立性（実行フローの露出なし）、(3) 結果の正しさ（決定的または誤差が限定された出力）。
• 記述的MLシステムを3段階に分類する：(1) 記述的MLタスク（例：モデル探索）、(2) 記述的MLアルゴリズム（例：反復的アルゴリズム向けDSL）、(3) 大規模MLライブラリ（例：MLlib）を基準として設定。
• Apache SystemMLを代表例として取り上げ、抽象データ型と自動計画生成を通じてコア特性が実装される様子を実際の事例で示す。
• 既存のシステム（例：MLbase、Columbus、DeepDive）を分類フレームワークにマッピングし、定義された特性を満たしていることを示す。
• タイプ別ベンチマークとドメイン特化の仕様言語の必要性を主張し、アレイMLやベイジアンMLワークロード向けに既存の例（例：SciDB、SimSQL）を挙げて説明する。
• 構文が記述的MLの本質的定義に影響を与えない限り、コア特性が満たされていれば構文の違いは無関係であると明言し、ループ構文の議論は本質的定義とは無関係であると結論づける。

実験結果

リサーチクエスチョン

• RQ1 構文や実装に依存しないで、システムが記述的機械学習と見なされるために満たすべき根本的な特性は何か？
• RQ2 既存のMLシステムを、抽象化レベルと動作の違いに基づき、記述的MLの異なるタイプに体系的に分類する方法は何か？
• RQ3 MLbase、SystemML、DeepDiveといったシステムが、提案された記述的MLの基本的特性をどの程度満たしているか？
• RQ4 なぜ一様なベンチマークでは記述的MLシステムの評価が不十分であり、効果的なタイプ別ベンチマークの特徴は何か？
• RQ5 異なる記述的MLシステムタイプの独自の要件を満たすように、構文に縛られない仕様言語をどのように設計できるか？

主な発見

• 物理的データ独立性、データフロー独立性、結果の正しさというコアな特性は、構文や制御構造に依存せず、記述的MLを定義するのに十分かつ必須である。
• MLbase や Columbus は、最適化目的を伴う高レベルの学習問題を指定し、データおよび実行詳細を抽象化しているため、記述的MLタスクに分類される。
• SystemML は、最適化された実行計画を生成する高レベルのDSLをサポートしており、物理的データ表現や実行フローを隠蔽するため、記述的MLアルゴリズムの例である。
• DeepDive は、特徴選択の文脈で記述的MLシステムとして適格である。SQLとUDFを介して統計的推論や要因グラフ計算を抽象化しており、アルゴリズムの内部構造を露出しない。
• 本分類法により、実行計画を固定し低レベルのデータ表現を露出する従来のMLライブラリと、記述的MLシステムを明確に区別できる。
• 本論文は、タイプ別ベンチマークとドメイン特化の仕様言語が、公平な評価と技術的進歩に不可欠であると結論づけ、アレイMLおよびベイジアンMLデータベース分野での成功事例によって裏付けられる。