[论文解读] Reparameterizing the Birkhoff Polytope for Variational Permutation Inference

Scott W. Linderman, Gonzalo E. Mena+3 more|arXiv (Cornell University)|Oct 25, 2017

Genome Rearrangement Algorithms被引用 27

一句话总结

本文提出了一种通过温度控制的杆断裂过程与取整变换实现的可微分、可逆重参数化方法，对Birkhoff单纯形进行重参数化，从而在排列矩阵上实现高效的随机变分推断。该方法在神经身份推断任务中，相较于MCMC和MAP基线方法，实现了更快的收敛速度和更优的后验近似，尤其在整合多个生物样本的信息时表现更优。

ABSTRACT

Many matching, tracking, sorting, and ranking problems require probabilistic reasoning about possible permutations, a set that grows factorially with dimension. Combinatorial optimization algorithms may enable efficient point estimation, but fully Bayesian inference poses a severe challenge in this high-dimensional, discrete space. To surmount this challenge, we start with the usual step of relaxing a discrete set (here, of permutation matrices) to its convex hull, which here is the Birkhoff polytope: the set of all doubly-stochastic matrices. We then introduce two novel transformations: first, an invertible and differentiable stick-breaking procedure that maps unconstrained space to the Birkhoff polytope; second, a map that rounds points toward the vertices of the polytope. Both transformations include a temperature parameter that, in the limit, concentrates the densities on permutation matrices. We then exploit these transformations and reparameterization gradients to introduce variational inference over permutation matrices, and we demonstrate its utility in a series of experiments.

研究动机与目标

• 为解决排列矩阵上的贝叶斯推断问题，该问题属于随维度阶乘增长的高维离散空间。
• 在涉及组合结构（如匹配、跟踪和排序）的问题中，实现可扩展且高效的变分推断。
• 开发一种排列矩阵的连续松弛方法，支持通过重参数化实现基于梯度的优化。
• 将排列推断整合到层次化模型中，尤其适用于C. elegans中的神经身份对齐。
• 在收敛速度和后验质量方面，优于现有的MCMC、MAP和朴素变分推断方法。

提出的方法

• 提出一种可逆、可微分的杆断裂变换，将无约束实向量映射到Birkhoff单纯形（双随机矩阵）。
• 引入一种温度控制的取整映射，将Birkhoff单纯形中的点投影到排列矩阵上，且在零温度极限下实现集中化。
• 采用重参数化梯度，实现对排列矩阵上变分后验近似的端到端训练。
• 在优化过程中使用Sinkhorn-Knopp算法强制执行双随机约束。
• 通过将参数矩阵M中的条目置零，引入结构约束（如神经元位置先验），以限制可行排列。
• 在层次化贝叶斯模型中应用该方法，以同时推断多个蠕虫的潜在动态矩阵W和排列矩阵X^{(j)}。

实验结果

研究问题

• RQ1 能否通过一种可微分、可逆的变换，将无约束空间映射到Birkhoff单纯形，同时保持变分推断中的梯度流动？
• RQ2 温度控制的取整机制是否能在零温度极限下使变分后验集中在排列矩阵上？
• RQ3 该重参数化方法是否能在真实神经数据问题中，实现比MCMC或MAP更快、更准确的排列推断？
• RQ4 在结合多个具有部分身份知识的生物样本时，该方法的性能如何？
• RQ5 该方法能否在具有复杂结构约束的高维排列推断问题中实现可扩展性？

主要发现

• 所提出的方法收敛速度显著快于MCMC，后者依赖于局部Metropolis-Hastings提议，导致混合缓慢。
• 该方法在后验近似方面优于朴素变分推断，后者未能强制执行排列结构。
• 在候选神经元数量多且身份知识稀疏的情况下，采用适当约束的贝叶斯方法优于MAP估计。
• 该方法成功捕捉了排列推断中的不确定性，表现为后验方差更高，且在不同蠕虫间样本多样性更高。
• 结果表明，结合多个蠕虫的数据可提升推断性能，证明了层次化建模的价值。
• 在QAP求解器计算成本较高的情况下，该方法在收敛速度和解的质量方面均优于MAP估计。