[论文解读] Effect Handling for Composable Program Transformations in Edward2

Dave Moore, Maria I. Gorinova|arXiv (Cornell University)|Nov 15, 2018

Software Engineering Research参考文献 1被引用 6

一句话总结

本文提出在TensorFlow中的概率编程框架Edward2中，使用代数效应处理器作为可组合、模块化的机制来实现程序变换。通过将采样等概率操作视为可扩展的效应，该方法支持嵌套的、可组合的变换——如条件化、追踪、重参数化和变分推断——通过处理器组合实现，显著简化了复杂推断算法（如ADVI）的实现。

ABSTRACT

Algebraic effects and handlers have emerged in the programming languages community as a convenient, modular abstraction for controlling computational effects. They have found several applications including concurrent programming, meta programming, and more recently, probabilistic programming, as part of Pyro's Poutines library. We investigate the use of effect handlers as a lightweight abstraction for implementing probabilistic programming languages (PPLs). We interpret the existing design of Edward2 as an accidental implementation of an effect-handling mechanism, and extend that design to support nested, composable transformations. We demonstrate that this enables straightforward implementation of sophisticated model transformations and inference algorithms.

研究动机与目标

• 解决概率编程框架中程序变换缺乏模块化、可组合抽象的问题。
• 证明Edward2现有的拦截机制实际上是效应处理的意外实现，并将其形式化为效应处理。
• 通过效应处理器实现嵌套且可组合的变换（如重参数化、条件化和密度计算）。
• 展示效应处理器如何简化高级推断算法（如ADVI和变分推断）的实现。

提出的方法

• 将概率操作（如采样）视为可拦截和处理的代数效应。
• 将程序变换（如条件化、追踪、重参数化）建模为修改采样操作行为的处理器。
• 通过允许处理器将操作转发给底层处理器，实现处理器组合，从而保持效应链的完整性。
• 实现如`condition`、`trace`、`unconstrain`和`log_joint`等处理器，通过处理器嵌套支持推断任务。
• 使用TensorFlow Probability的`TransformedDistribution`和`Bijector`在重参数化过程中实现雅可比校正。
• 以Edward2的拦截系统为基础，将其重新解释为一种受限的效应处理形式，具有隐式延续。

实验结果

研究问题

• RQ1 能否使用效应处理器在概率编程框架中实现可组合、模块化的程序变换？
• RQ2 如何将Edward2中现有的拦截机制重新解释为效应处理，以提升模块化和组合性？
• RQ3 在多大程度上可以使用组合的效应处理器实现复杂的推断算法（如ADVI）？
• RQ4 效应处理在表达非局部程序变换（如计算图上的符号代数）方面存在哪些局限性？

主要发现

• 证明Edward2的拦截系统是效应处理的意外但有效的实现，处理器能够覆盖采样行为。
• 处理器组合支持实现复杂变换，如无约束重参数化、随后的条件化和对数密度推导。
• 该方法通过组合无约束处理器、变分引导构造处理器和联合密度推导处理器，实现了ADVI的清晰、可组合实现。
• 效应处理器支持通过类似追踪的处理器自动推导对数联合密度，该处理器累积条件对数概率。
• 该方法通过可扩展的处理器接口支持非中心化和逆累积分布函数变换等重参数化技术。
• 该框架通过处理器自动初始化并转换采样操作为参数化分布，支持自动变分推断。