[论文解读] Quantum Inspired Training for Boltzmann Machines

Nathan Wiebe, Ashish Kapoor+2 more|arXiv (Cornell University)|Jul 9, 2015

Generative Adversarial Networks and Image Synthesis参考文献 9被引用 21

一句话总结

本文提出了一种经典算法——工具拒绝采样（Instrumental Rejection Sampling, IRS），其灵感源自用于深度玻尔兹曼机（DBMs）训练的量子方法。通过结合变分近似与拒绝采样，并采用最小化 α=2 散度的最优工具分布，IRS 在深度上具有良好的可扩展性，实现了可并行化的误差降低，相比低阶对比散度方法能获得更精确的梯度，为无需量子硬件的高效、高精度 DBM 训练提供了实用路径。

ABSTRACT

We present an efficient classical algorithm for training deep Boltzmann machines (DBMs) that uses rejection sampling in concert with variational approximations to estimate the gradients of the training objective function. Our algorithm is inspired by a recent quantum algorithm for training DBMs. We obtain rigorous bounds on the errors in the approximate gradients; in turn, we find that choosing the instrumental distribution to minimize the alpha=2 divergence with the Gibbs state minimizes the asymptotic algorithmic complexity. Our rejection sampling approach can yield more accurate gradients than low-order contrastive divergence training and the costs incurred in finding increasingly accurate gradients can be easily parallelized. Finally our algorithm can train full Boltzmann machines and scales more favorably with the number of layers in a DBM than greedy contrastive divergence training.

研究动机与目标

• 开发一种近期提出的用于训练深度玻尔兹曼机（DBMs）的量子算法的经典类比，同时保留其理论优势。
• 克服对比散度训练中的关键局限，如边的隐含方向性以及缺乏可并行化的精度提升。
• 为训练完整玻尔兹曼机及深层架构提供一种严格、高效且可扩展的方法，其梯度估计精度优于低阶 CD 方法。
• 确定拒绝采样中最小化渐近算法复杂度与梯度误差的最优工具分布。
• 证明经典实现的受量子启发的采样方法可在深度生成模型训练中带来实际效益。

提出的方法

• 该方法采用基于变分工具分布 Q 的拒绝采样，以近似玻尔兹曼机的真实吉布斯分布。
• 工具分布被选择为最小化与吉布斯态之间的 α=2 散度，从而优化采样过程的渐近算法复杂度。
• 采用两种关键近似：平均场分布与最小化 α=2 散度的分布，通过凸组合（γQ_MF + (1−γ)Q_α=2）结合，以应对高维空间中性能下降的风险。
• 算法使用两个独立的拒绝采样循环：一个用于模型分布（用于从近似联合分布中采样），另一个用于数据分布（用于从给定可见单元的条件分布中采样）。
• 通过计算来自两个分布的接受样本中可见单元与隐藏单元激活的样本均值，来估计最大似然目标的梯度。
• 该方法支持采样过程的并行化，可在不增加近似阶数的前提下提高梯度精度，这与对比散度方法不同。

实验结果

研究问题

• RQ1 经典算法能否复现近期提出的用于训练深度玻尔兹曼机的量子算法的理论优势？
• RQ2 在 DBM 训练的拒绝采样中，何种工具分布能最小化渐近复杂度与梯度误差？
• RQ3 结合平均场与基于 α=2 散度的近似如何提升高维模型中的采样效率与梯度精度？
• RQ4 拒绝采样方法能否实现并行化，以在精度上超越低阶近似，而对比散度则无法实现？
• RQ5 与贪婪对比散度相比，该方法在深度玻尔兹曼机层数增加时是否表现出更优的可扩展性？

主要发现

• 最小化与吉布斯态之间 α=2 散度的工具分布可实现最低的渐近算法复杂度，为最优采样提供了理论基础。
• 当 κ_A ≈ 1 时，混合工具分布（γ=0.5）的性能与平均场近似相当；而当 κ_A ≈ 211 时，其在正确处理概率质量方面优于两种独立近似约 45%。
• IRS 方法产生的梯度精度高于低阶对比散度训练，从而支持更优的模型优化。
• IRS 中实现更高梯度精度的成本可高效并行化，而对比散度方法则受限于单一固定阶次的近似。
• 与贪婪对比散度相比，该算法在 DBM 层次增加时表现出更优的可扩展性，适用于更深的架构。
• 该方法不仅限于 DBMs，还可应用于具有一般隐变量的马尔可夫随机场，显著拓宽了其适用范围。