[論文レビュー] TerpreT: A Probabilistic Programming Language for Program Induction

Alexander L. Gaunt, Marc Brockschmidt+5 more|arXiv (Cornell University)|Aug 15, 2016

Software Engineering Research参考文献 35被引用数 80

ひとこと要約

TerpreT は、モデル仕様と推論アルゴリズムを分離することで、プログラム合成アプローチの迅速なプロトタイピングと比較的評価を可能にする確率的プログラミング言語である。勾配降下、線形プログラミング、充足可能性理論（SAT）ソルバ、および Sketch を含む複数の推論バックエンドをサポートしており、制約ソルバが微分可能および LP に基づく手法よりも、プログラム誘導タスクにおいて優れていることを示している。

ABSTRACT

We study machine learning formulations of inductive program synthesis; given input-output examples, we try to synthesize source code that maps inputs to corresponding outputs. Our aims are to develop new machine learning approaches based on neural networks and graphical models, and to understand the capabilities of machine learning techniques relative to traditional alternatives, such as those based on constraint solving from the programming languages community. Our key contribution is the proposal of TerpreT, a domain-specific language for expressing program synthesis problems. TerpreT is similar to a probabilistic programming language: a model is composed of a specification of a program representation (declarations of random variables) and an interpreter describing how programs map inputs to outputs (a model connecting unknowns to observations). The inference task is to observe a set of input-output examples and infer the underlying program. TerpreT has two main benefits. First, it enables rapid exploration of a range of domains, program representations, and interpreter models. Second, it separates the model specification from the inference algorithm, allowing like-to-like comparisons between different approaches to inference. From a single TerpreT specification we automatically perform inference using four different back-ends. These are based on gradient descent, linear program (LP) relaxations for graphical models, discrete satisfiability solving, and the Sketch program synthesis system. We illustrate the value of TerpreT by developing several interpreter models and performing an empirical comparison between alternative inference algorithms. Our key empirical finding is that constraint solvers dominate the gradient descent and LP-based formulations. We conclude with suggestions for the machine learning community to make progress on program synthesis.

研究の動機と目的

• 異なるプログラム合成アプローチを同等の条件で指定・比較できる統合フレームワークの開発。
• 機械学習ベースの推論（例：勾配降下）と従来の制約解決手法の、誘導的プログラム合成における有効性の調査。
• ドメイン特化言語を通じて、異なるプログラム表現、インタプリタ、推論アルゴリズムの迅速な実験を可能にする。
• 微分可能でニューラルにインspiredされたプログラム表現が、解釈可能で制御フローに配慮したソースコードを効果的に合成できるかの調査。
• さまざまなプログラム誘導問題において、推論バックエンドの体系的で実証的な比較の提供。

提案手法

• TerpreT は、プログラム表現（確率的変数の宣言）と実行意味論（インタプリタ）を分離するドメイン特化言語である。
• 未知のプログラム構成要素が、観測された入力-出力例を用いた確率的推論によって推論されるモデルを定義している。
• フレームワークは 4 つの推論バックエンドをサポートしている：勾配降下（微分可能インタプリタ経由）、グラフィカルモデル用の LP リラクセーション、離散的 SAT 解法、および Sketch プログラム合成システム。
• プログラムは明示的な制御フロー（if-then-else、ループ）、レジスタ、ヒープメモリを伴う命令のシーケンスとして表現され、解釈可能なソースコードの合成を可能にする。
• インタプリタモデルは、時系列ステップごとにプログラム実行をシミュレートする条件付き論理と変数代入を用いて実装されている。
• 観測値は、最終的なプログラムカウンター値を 0（停止状態）に固定することで組み込まれており、終了を保証している。

実験結果

リサーチクエスチョン

• RQ1 TerpreT のような統合的確率的プログラミングフレームワークは、プログラム合成のための多様な推論アルゴリズムを、公平かつ体系的に比較可能にするか？
• RQ2 入力-出力例から正しいプログラムを合成する際、勾配降下ベースおよび LP リラクセーション手法と、制約解決手法の性能はどのように比較されるか？
• RQ3 明示的な制御フローを備えた微分可能でニューラルにインspiredされたプログラム表現は、プログラム誘導における一般化性能と解釈可能性をどの程度向上させるか？
• RQ4 構造的でコンパイラー風の中間表現を用いることで、機械学習ベースの合成手法の性能は向上するか？
• RQ5 同じプログラム合成問題仕様に適用された場合、異なる推論バックエンドの相対的な長所と短所は何か？

主な発見

• 制約ソルバ（SAT や Sketch を含む）は、プログラム誘導ベンチマークにおいて、勾配降下および LP に基づく推論手法よりも、正確性と成功確率の面で顕著に優れている。
• 実証的結果から、微分可能でニューラルにインspiredされたモデルを勾配降下で学習させた場合でさえも、従来の制約ベースの手法が依然として優勢であることが示された。
• TerpreT 内の微分可能インタプリタにより、明示的な制御フローとメモリアクセスを備えたプログラム表現のエンドツーエンド学習が可能になったが、シンボリックソルバの性能には及ばない。
• LP リラクセーションに基づく推論は、特に離散的決定や非線形制約を要する問題では限定的であることが分かった。
• このフレームワークにより、モデル仕様と推論の分離が成功裏に実現され、同じ TerpreT 記述を用いて、4 つの異なる推論バックエンドを直接比較可能となった。
• 本研究は、将来的な機械学習ベースのプログラム合成の進展には、単に勾配ベース最適化に依存するのではなく、シンボリック推論とニューラル微分可能性を統合する必要があるかもしれないと示唆している。