[论文解读] Neural Functional Programming

John Feser, Marc Brockschmidt+2 more|arXiv (Cornell University)|Nov 7, 2016

Reinforcement Learning in Robotics被引用 3

一句话总结

本文提出了一种可微分函数式编程语言，旨在通过输入输出示例提升程序学习效果。通过整合编程语言原则（如不可变性、静态类型和受控控制流），该语言实现了端到端可微分程序合成，显著优于现有基线模型的学习成功率。

ABSTRACT

We discuss a range of modeling choices that arise when constructing an end-to-end differentiable programming language suitable for learning programs from input-output examples. Taking cues from programming languages research, we study the effect of memory allocation schemes, immutable data, type systems, and built-in control-flow structures on the success rate of learning algorithms. We build a range of models leading up to a simple differentiable functional programming language. Our empirical evaluation shows that this language allows to learn far more programs than existing baselines.

研究动机与目标

• 设计一种支持从输入输出示例进行端到端学习的可微分编程语言。
• 研究核心编程语言特性（如内存分配、不可变性、类型系统和控制流）对程序学习性能的影响。
• 构建一种最小化、函数式的语言，在保持可微性的同时支持有效的神经程序合成。
• 通过实证评估，比较语言设计选择对学习成功率的影响，与现有方法进行对比。

提出的方法

• 设计一种具有不可变性和静态类型的函数式编程语言，以确保程序行为的可预测性和可微性。
• 实现支持通过程序执行轨迹计算梯度的内存分配方案。
• 使用可微语义，以可微方式集成内置控制流结构（如条件语句、递归）。
• 构建一个可微分解释器，以追踪程序执行过程，并支持通过程序结构进行反向传播。
• 训练神经模型，通过可微执行优化输入输出正确性，以预测程序。
• 系统性地消融语言特性（如可变性、类型系统、控制流），以评估其对学习性能的影响。

实验结果

研究问题

• RQ1 内存分配策略在多大程度上影响神经程序合成模型的可微性和学习性能？
• RQ2 数据结构的不可变性在多大程度上提升了程序学习的可靠性和成功率？
• RQ3 类型系统在多大程度上影响可微分程序的泛化能力和表达能力？
• RQ4 内置控制流结构对模型学习复杂程序能力的影响如何？
• RQ5 一种最小化、可微分的函数式语言是否能在学习成功率上超越现有神经程序合成基线？

主要发现

• 所提出的可微分函数式编程语言相较于现有基线模型，显著提升了学习成功率。
• 不可变性和静态类型提升了模型的泛化能力，并降低了程序合成中的训练不稳定性。
• 通过可微语义实现的控制流结构，使模型能够有效学习递归和条件程序。
• 保留梯度流动的内存分配方案，带来了更稳定和精确的程序生成。
• 实证评估证实，语言设计选择的综合效应显著提升了端到端程序学习的成功率。