[论文解读] Adaptive Neural Compilation

Rudy Bunel, Alban Desmaison+3 more|arXiv (Cornell University)|May 25, 2016

Reinforcement Learning in Robotics参考文献 13被引用 27

一句话总结

本文提出了自适应神经编译器（Adaptive Neural Compiler, ANC），一种将低级程序编译为可微分神经表示的框架，从而通过梯度下降实现数据驱动的优化。实验表明，学习到的程序能高效适应输入数据分布，在偏置数据集上实现常数时间执行，例如在链表访问任务中表现优异。

ABSTRACT

This paper proposes an adaptive neural-compilation framework to address the problem of efficient program learning. Traditional code optimisation strategies used in compilers are based on applying pre-specified set of transformations that make the code faster to execute without changing its semantics. In contrast, our work involves adapting programs to make them more efficient while considering correctness only on a target input distribution. Our approach is inspired by the recent works on differentiable representations of programs. We show that it is possible to compile programs written in a low-level language to a differentiable representation. We also show how programs in this representation can be optimised to make them efficient on a target distribution of inputs. Experimental results demonstrate that our approach enables learning specifically-tuned algorithms for given data distributions with a high success rate.

研究动机与目标

• 解决在完整输入数据分布未知的情况下，优化通用算法以适应特定输入数据分布的挑战。
• 克服传统编译器与超优化器依赖语义等价性或不可微分搜索的局限性。
• 通过将程序转换为可微分格式，实现基于梯度优化的高效、数据感知程序自适应。
• 通过编译生成的可微分初始化，减少对复杂训练启发式方法（如课程学习）的依赖。
• 在不牺牲给定输入分布上正确性的前提下，提升算法的运行时效率。

提出的方法

• 使用自定义编译器将低级程序编译为可微分神经表示，将指令映射为可微分操作。
• 将程序表示为在可微分内存（如基于磁带的模型）上的操作序列，寄存器与指令作为可学习参数建模。
• 使用梯度下降优化程序参数，以最小化输入-输出对数据集上的损失，优先选择执行更快的方案。
• 利用可微分操作（如 READ、WRITE、INC、DEC、JEZ 和 STOP）实现程序逻辑的端到端训练。
• 应用可微分控制器（如基于 LSTM 的控制器）生成适应输入数据模式的指令序列。
• 采用结合正确性（预测准确率）与效率（执行时间或步骤数）的损失函数，实现联合优化。

实验结果

研究问题

• RQ1 能否从低级代码构建可微分程序表示，以支持基于梯度的优化？
• RQ2 在不改变语义的前提下，数据驱动优化能否在特定输入分布上超越通用算法？
• RQ3 梯度下降在可编译的可微分表示中，能在多大程度上发现高效且非平凡的程序变体（如跳过循环）？
• RQ4 与基线编译或基于搜索的方法相比，ANC 框架在学习优化程序方面的有效性如何？
• RQ5 基于梯度的优化在消除学习程序中冗余或未使用指令方面存在哪些局限性？

主要发现

• ANC 框架成功将低级程序编译为可微分表示，支持通过梯度下降实现端到端训练。
• 在偏置链表访问任务中，学习到的程序通过直接计算目标地址，完全跳过循环，实现常数时间访问（O(1)）。
• 模型在学习优化程序方面表现优异，最终策略在偏置数据集的测试用例中，99% 的情况下能正确访问目标元素。
• 尽管实现了效率提升，模型仍保留冗余操作（如未使用的寄存器写入），表明基于梯度的发现机制在结构优化方面存在局限。
• 可微分表示支持超越语义等价性的数据特定性能提升，证明了学习分布感知算法的可行性。
• 该方法优于传统编译与不可微分的超优化，实现了程序空间的直接、梯度引导探索。