[论文解读] Learning Probabilistic Programs

Yura Perov, Frank Wood|arXiv (Cornell University)|Jul 9, 2014

Bayesian Modeling and Causal Inference参考文献 30被引用 6

一句话总结

本文提出了一种方法，通过在高阶概率编程语言中使用贝叶斯推断，从观测数据样本自动学习生成式概率程序文本。通过将程序综合视为具有分层先验的概率程序文本上的推断，该方法成功地从数据和其他已知采样器中推断出伯努利分布的采样程序，表明MCMC推断能够推广到非平凡分布，并取得强劲的实证结果。

ABSTRACT

We develop a technique for generalising from data in which models are samplers represented as program text. We establish encouraging empirical results that suggest that Markov chain Monte Carlo probabilistic programming inference techniques coupled with higher-order probabilistic programming languages are now sufficiently powerful to enable successful inference of this kind in nontrivial domains. We also introduce a new notion of probabilistic program compilation and show how the same machinery might be used in the future to compile probabilistic programs for efficient reusable predictive inference.

研究动机与目标

• 研究概率编程语言是否能自动从观测数据样本中推断生成模型程序。
• 探索在程序文本上使用贝叶斯推断以发现高效采样过程（如伯努利分布）的可行性。
• 开发一种概率程序编译框架——学习可直接生成后验样本的程序文本，绕过传统推断流程。
• 评估在仅使用样本数据的情况下，程序文本上的分层生成先验是否能实现跨不同分布类型的泛化。
• 为自动发现高效采样算法（类似于手工设计的马尔萨利亚或博克斯-穆勒方法）奠定基础。

提出的方法

• 在程序文本上定义一个分层生成模型，以编码关于概率程序结构和复杂性的先验信念。
• 使用马尔可夫链蒙特卡洛（MCMC）推断从程序文本的后验分布中抽样，条件为观测数据样本。
• 通过运行时解释器评估程序文本，检查输出分布是否通过摘要统计量匹配观测数据。
• 该方法利用概率编程语言的高阶特性，包括一等函数和求值（eval），以支持递归和模块化程序构建。
• 采用留一法实验设计：使用某些分布的已知采样程序来推断被留出分布的程序文本，仅使用该分布的观测样本。
• 该框架通过学习可直接生成匹配感兴趣后验分布的样本的新程序，支持概率程序编译。

实验结果

研究问题

• RQ1 在高阶概率编程语言中，对程序文本进行MCMC推断是否能成功从观测数据样本中推断出生成模型？
• RQ2 对程序结构的分层先验是否能仅使用样本数据和其它分布的已知采样器，实现对新分布类型（如伯努利分布）的泛化？
• RQ3 是否可行通过在程序文本上进行概率推断，自动发现高效采样过程（类似于手工设计的算法，如马尔萨利亚或博克斯-穆勒）？
• RQ4 在绕过显式推断的情况下，通过学习可直接生成后验样本的程序文本，概率程序编译能在多大程度上实现？
• RQ5 使用程序文本上的生成先验是否能将推断正则化为更易读、更简洁且可重用的采样过程？

主要发现

• 在留一法实验中，该方法成功推断出伯努利分布的采样程序，仅使用观测样本和其它分布的已知采样器。
• 推断出的程序文本生成的样本在摘要统计量上与真实数据分布匹配，表明其具有强大的泛化性能。
• 实证结果表明，对程序文本的MCMC推断能够有效探索复杂、高维的概率程序空间，并定位高后验概率的程序。
• 该方法表明，支持eval的高阶概率编程语言能够实现强大且灵活的程序结构推断，从而实现采样过程的自动发现。
• 推断出的编译后采样器与精确后部分布非常接近，表明概率程序编译作为一种新范式具有可行性。
• 结果表明，以往需数十年手工设计的高效采样算法，现在可能通过概率推断实现自动发现。