[论文解读] Differentiable Functional Program Interpreters

John Feser|arXiv (Cornell University)|Nov 7, 2016

Machine Learning and Algorithms参考文献 14被引用 6

一句话总结

本文提出了一种可微分的函数式编程语言及其解释器，旨在提升从输入-输出示例中进行程序合成的性能。通过整合函数式编程原则——不可变性、高阶组合子、类型系统以及自动内存管理，作者在复杂列表处理任务上展示了相较于先前可微分方法显著增强的学习性能。

ABSTRACT

Programming by Example (PBE) is the task of inducing computer programs from input-output examples. It can be seen as a type of machine learning where the hypothesis space is the set of legal programs in some programming language. Recent work on differentiable interpreters relaxes the discrete space of programs into a continuous space so that search over programs can be performed using gradient-based optimization. While conceptually powerful, so far differentiable interpreter-based program synthesis has only been capable of solving very simple problems. In this work, we study modeling choices that arise when constructing a differentiable programming language and their impact on the success of synthesis. The main motivation for the modeling choices comes from functional programming: we study the effect of memory allocation schemes, immutable data, type systems, and built-in control-flow structures. Empirically we show that incorporating functional programming ideas into differentiable programming languages allows us to learn much more complex programs than is possible with existing differentiable languages.

研究动机与目标

• 提升可微分解释器在程序合成中的可扩展性与表达能力，使其超越简单任务的范畴。
• 探究函数式编程范式（如不可变性、组合子和类型系统）对基于梯度的程序学习的影响。
• 通过设计更结构化、函数式的编程基础，解决现有可微分语言在少样本情况下泛化能力不足的问题。
• 通过实证验证，函数式语言设计选择是否能带来可测量的程序归纳成功率提升。

提出的方法

• 设计一种基于整数和列表的可微分函数式编程语言，内置对递归和控制流的支持，通过组合子和 if-then-else 结构实现。
• 实现一个支持自动内存管理且在执行过程中强制数据结构不可变的可微分解释器。
• 集成一个简单的类型系统，以约束搜索空间并提升训练过程中的泛化能力。
• 使用基于梯度的优化方法在输入-输出示例上训练解释器，通过硬注意力或采样获得离散程序输出。
• 在列表处理任务（如长度计算和列表搜索）上，将所提出的解释器与 NRAM 和离散搜索方法等基线模型进行比较。
• 开展广泛的超参数搜索与消融研究，评估各项设计选择对学习性能的影响。

实验结果

研究问题

• RQ1 不可变性与高阶组合子等函数式编程原则如何影响可微分解释器从少量示例中泛化的能力？
• RQ2 引入类型系统和自动内存管理在多大程度上提升了可微分程序合成的成功率？
• RQ3 基于函数式语言的可微分解释器是否能在复杂的真实世界程序归纳任务中超越现有模型（如 NRAM）？
• RQ4 使用结构化控制流（如组合子和 if-then-else）是否能带来更优的优化动态并实现更快的收敛？
• RQ5 可微分解释器中的不同建模选择在多大程度上影响其在未见输入-输出对上的泛化能力？

主要发现

• 所提出的采用函数式语言设计选择的可微分解释器在复杂列表处理任务上的成功率达到显著高于先前可微分模型。
• 使用组合子和 if-then-else 结构实现控制流显著提升了泛化能力，尤其在需要条件逻辑和类似递归行为的任务中表现更优。
• 不可变性与自动内存管理对于训练稳定性及泛化能力至关重要，尤其在小规模训练集上表现突出。
• 引入简单类型系统有效缩小了假设空间，实现了更快的收敛速度和更高的程序合成成功率。
• 当训练样本少于 50 个时，NRAM 基线在 len 任务上无法泛化，证实了非函数式可微分模型在少样本学习中存在困难。
• 该模型在某些任务上优于离散搜索方法（如 λ²），特别是在涉及软约束或感知输入时，表明其在混合学习系统中具有互补作用。