Skip to main content
QUICK REVIEW

[论文解读] DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning

Kevin Ellis, Catherine Wong|arXiv (Cornell University)|Jun 15, 2020
Explainable Artificial Intelligence (XAI)Computer Science被引用 33
一句话总结

DreamCoder 通过共同扩展领域特定编程抽象库和神经搜索指南来学习解决任务,使用醒-睡贝叶斯程序归纳在具有可解释、可重用知识的前提下解决多种任务。

ABSTRACT

Expert problem-solving is driven by powerful languages for thinking about problems and their solutions. Acquiring expertise means learning these languages -- systems of concepts, alongside the skills to use them. We present DreamCoder, a system that learns to solve problems by writing programs. It builds expertise by creating programming languages for expressing domain concepts, together with neural networks to guide the search for programs within these languages. A ``wake-sleep'' learning algorithm alternately extends the language with new symbolic abstractions and trains the neural network on imagined and replayed problems. DreamCoder solves both classic inductive programming tasks and creative tasks such as drawing pictures and building scenes. It rediscovers the basics of modern functional programming, vector algebra and classical physics, including Newton's and Coulomb's laws. Concepts are built compositionally from those learned earlier, yielding multi-layered symbolic representations that are interpretable and transferrable to new tasks, while still growing scalably and flexibly with experience.

研究动机与目标

  • 激励并解决通过基于贝叶斯学习的可编程抽象来构建专业且可泛化知识的目标。
  • 引入一个醒-睡贝叶斯框架,联合学习领域特定的库和神经搜索引导。
  • 展示该方法在多种领域的应用,包括经典程序综合、图形、塔构建、文本编辑和概率概念等。
  • 表明学习的抽象促进高效、可解释且可扩展的问题求解。

提出的方法

  • 将学习表示为在可学习的分层原语库中对程序的归纳。
  • 使用醒-睡循环交替进行:(i) 由神经识别模型和基于库的先验引导解决任务;(ii) 抽象并做梦以扩展库并改进识别模型。
  • 抽象阶段通过重构和压缩可重用代码为新的原語来扩展库,降低描述长度。
  • 梦境阶段训练一个神经网络,在给定任务数据的情况下预测程序,使用对已解决任务的重放以及从库中抽取的幻想样本。
  • 将该过程表述为对库和程序的近似贝叶斯推断,通过三阶段(唤醒、抽象、梦境)最大化后验的下界。
  • 将程序表示为多态类型的 lambda 演算表达式,以支持组合性、可解释的解。

实验结果

研究问题

  • RQ1一个系统是否能够学习捕获跨任务可重用抽象的领域特定编程语言(库)?
  • RQ2将库学习与神经搜索引导结合是否能提升程序归纳的可扩展性和解题质量?
  • RQ3醒-睡循环(抽象和梦境)如何影响跨任务和领域的泛化、可解释性和数据效率?
  • RQ4该方法是否能够重新发现核心编程概念并解决像图形、塔构建、正则表达式/轨迹问题等创意任务?
  • RQ5学习到的抽象对搜索深度、广度和整体性能的影响是什么?

主要发现

  • DreamCoder 通过将学习到的库例程与神经引导模型结合,解决跨多个领域的广泛任务。
  • 基于学习的抽象和压缩产生更深层、可重复使用的库,与解决更多任务相关(r = 0.79)。
  • 梦境阶段(神经识别模型训练)提升了跨领域的性能并实现更高效的问题解决。
  • DreamCoder 在文本编辑任务基准测试中取得显著提升,学习后解决率约79.6%,前为3.7%,平均求解时间更快(40秒 vs 235秒)。
  • 在创意领域(图形、塔构建),DreamCoder 接近几乎覆盖所有任务(学习后几乎100%解决),而基线在60%以下停滞。
  • 系统发现可被人类解释的更高层构建块(例如 map、参数化选项),可在任务和领域间迁移。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。