[論文レビュー] A Theory of Formal Synthesis via Inductive Learning

Susmit Jha, Sanjit A. Seshia|arXiv (Cornell University)|May 15, 2015

Machine Learning and Algorithms参考文献 25被引用数 14

ひとこと要約

本論文は、オラクル誘導型帰納的合成（OGIS）を介した形式的帰納的合成の理論的枠組みを提示し、反例誘導型帰納的合成（CEGIS）をその主要な例として焦点を当てる。CEGISの変種の合成能力は、反例の種別とメモリ制約に基づいて特徴づけられ、有限概念クラスにおける収束速度と教員次元の関係を結びつけることで、正しく構築されたプログラム合成の基盤的理論を確立する。

ABSTRACT

Formal synthesis is the process of generating a program satisfying a high-level formal specification. In recent times, effective formal synthesis methods have been proposed based on the use of inductive learning. We refer to this class of methods that learn programs from examples as formal inductive synthesis. In this paper, we present a theoretical framework for formal inductive synthesis. We discuss how formal inductive synthesis differs from traditional machine learning. We then describe oracle-guided inductive synthesis (OGIS), a framework that captures a family of synthesizers that operate by iteratively querying an oracle. An instance of OGIS that has had much practical impact is counterexample-guided inductive synthesis (CEGIS). We present a theoretical characterization of CEGIS for learning any program that computes a recursive language. In particular, we analyze the relative power of CEGIS variants where the types of counterexamples generated by the oracle varies. We also consider the impact of bounded versus unbounded memory available to the learning algorithm. In the special case where the universe of candidate programs is finite, we relate the speed of convergence to the notion of teaching dimension studied in machine learning theory. Altogether, the results of the paper take a first step towards a theoretical foundation for the emerging field of formal inductive synthesis.

研究の動機と目的

• 形式的帰納的合成の理論的基盤を確立し、従来の機械学習とは区別すること。
• オラクルを用いて学習を誘導する合成手法を統合する枠組みとして、オラクル誘導型帰納的合成（OGIS）を形式化すること。
• 異なる反例の種別とメモリ制約（有界対無限）の下でのCEGIS変種の相対的合成能力を分析すること。
• 形式的帰納的合成における収束速度を機械学習理論における教員次元に関連付けること。
• さまざまな制約下での形式的帰納的合成の複雑さと能力を理解する上で未解決の問題を特定すること。

提案手法

• 学習者が反復的にオラクルに問い合わせて候補プログラムを精錬する形式的帰納的合成の一般枠組みとしてOGISを提案する。
• 検証オラクルが候補プログラムが仕様を満たさない場合に反例を返すことで、CEGISをOGISの特定の例としてモデル化する。
• 返される反例の種別（例：最小、すべて）に基づいてCEGIS変種を分析し、合成能力の差を示す。
• 再帰的言語の学習に向けたCEGISの形式的特徴づけを導入し、合成が可能となる条件を確立する。
• 教員次元を用いて、有限概念クラスにおける概念を一意に特定するのに必要な最小例数を測定する。
• 有限概念クラスにおける形式的帰納的合成のクエリ回数最小化問題がNP困難であることを確立する。

実験結果

リサーチクエスチョン

• RQ1 概念クラス、学習アルゴリズム、学習目標の観点から、形式的帰納的合成は従来の機械学習と根本的にどのように異なるか？
• RQ2 異なる種別の反例を返すCEGIS変種の相対的合成能力はいかほどか？
• RQ3 学習エンジンにおける有界メモリは、正しいプログラムの合成能力にどのように影響するか？
• RQ4 教員次元は、形式的帰納的合成における収束に必要な例数をどの程度まで予測できるか？
• RQ5 有限概念クラスにおける形式的帰納的合成のクエリ効率の理論的限界は何か？

主な発見

• 有限概念クラスにおける形式的帰納的合成のクエリ回数最小化問題はNP困難である。
• 教員次元は、有限概念クラスにおける概念を一意に特定するのに必要な例数の下界を提供する。
• より情報量の多い反例（例：最小、すべて）を返すCEGIS変種は、単一の反例しか返さないものよりも、厳密に高い合成能力を有することがある。
• 有界メモリでは、無限メモリであれば収束可能であっても、学習エンジンが収束に失敗する可能性があるため、実装上における重要なトレードオフが浮き彫りになる。
• 有限概念クラスにおいて、教員次元は正確な学習に必要な最小例数のタイトなバインドを与える。上界および下界はVC次元およびクラスサイズの用語で表現される。
• 理論的分析により、教員次元とVC次元が関連していることが示され、前者は形式的帰納的合成におけるサンプル複雑さの組合せ的測度を提供する。