[论文解读] Learning Proposals for Probabilistic Programs with Inference Combinators
本文提出了推理组合子——一种可组合、用户可编程的算子，用于在概率程序中构建加权正确的重要性采样器。通过支持基于变分目标的神经提议学习，该框架实现了构造正确的近似推理方法，通过模拟退火和吉布斯采样等高级技术得到验证。
We develop operators for construction of proposals in probabilistic programs, which we refer to as inference combinators. Inference combinators define a grammar over importance samplers that compose primitive operations such as application of a transition kernel and importance resampling. Proposals in these samplers can be parameterized using neural networks, which in turn can be trained by optimizing variational objectives. The result is a framework for user-programmable variational methods that are correct by construction and can be tailored to specific models. We demonstrate the flexibility of this framework by implementing advanced variational methods based on amortized Gibbs sampling and annealing.
研究动机与目标
- 解决为结构化概率模型设计灵活、可重用且正确推理策略的挑战。
- 克服在概率编程系统中由于模型特定的结构依赖性而导致实现高级MCMC和重要性采样方法的困难。
- 通过形式化一个可组合的推理组合子语法，使用户可编程的变分推理成为可能，从而组合生成有效的采样器。
- 通过变分目标端到端训练神经提议网络，以改善复杂模型中的后验近似。
- 通过实现最先进的推理方法（如模拟退火和基于吉布斯采样的采样器）证明框架的灵活性。
提出的方法
- 将推理组合子定义为一等构造，可组合基本操作，如转移核、提议分配和重要性重加权。
- 形式化语义，确保由组合子生成的所有采样器在目标密度下均产生正确加权的样本。
- 在组合子框架内集成神经网络作为参数化提议，通过变分目标实现可微训练。
- 使用嵌套变分推理最小化真实后验分布与学习到的提议分布之间的KL散度。
- 在Probabilistic Torch中实现该框架，支持控制流、递归和高阶函数，并具备可处理的条件密度。
- 为视频目标跟踪设计专用的提议网络，利用卷积预处理和MLP编码器进行位置与对象特征推理。
实验结果
研究问题
- RQ1我们如何设计一种可组合、用户可扩展的推理策略语言，以保证重要性采样中的正确性？
- RQ2推理组合子能否以一种系统化的方式支持实现如模拟退火和吉布斯采样等高级变分推理方法？
- RQ3通过变分目标训练的神经提议网络在结构化概率程序中对后验近似的改善程度如何？
- RQ4该框架在训练分布之外、具有不同数量对象和时间步长的模型上，其泛化能力如何？
- RQ5在序列建模任务中，使用与模型结构感知的提议（例如，基于重建对象的条件）对推理质量有何影响？
主要发现
- 推理组合子框架确保所有构建的采样器在目标密度下均正确加权，从而实现构造正确的保证。
- 该框架成功实现了模拟退火和摊销吉布斯采样等高级推理方法，展示了其在标准变分推理之外的灵活性。
- 通过变分目标训练的提议网络泛化到包含最多D=5个对象和T=100个时间步的测试实例，超过训练设置中的D=3和T=10。
- 结合重建对象图像（通过卷积特征）的条件提议显著提高了视频序列中对象位置的定位精度。
- 利用空间变换器根据预测位置裁剪帧，实现了对对象表征学习的有效特征提取。
- 提议参数的MLP编码器架构通过分层特征处理和非线性变换，实现了稳定训练和有效的后验近似。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。