[论文解读] Scalable and Incremental Learning of Gaussian Mixture Models

Rafael Pinto, Paulo Martins Engel|arXiv (Cornell University)|Jan 14, 2017

Gaussian Processes and Bayesian Inference参考文献 24被引用 5

一句话总结

本文提出快速增量高斯混合网络（FIGMN），一种可扩展且数据高效的算法，通过使用单重秩一更新替代增量高斯混合模型中的昂贵矩阵求逆与行列式计算，将时间复杂度从 O(NKD³) 降低至 O(NKD²)，从而在 MNIST、CIFAR-10 及强化学习环境等高维任务中实现高效学习，相较于基线算法展现出更优的数据效率与速度。

ABSTRACT

This work presents a fast and scalable algorithm for incremental learning of Gaussian mixture models. By performing rank-one updates on its precision matrices and determinants, its asymptotic time complexity is of \BigO{NKD^2} for $N$ data points, $K$ Gaussian components and $D$ dimensions. The resulting algorithm can be applied to high dimensional tasks, and this is confirmed by applying it to the classification datasets MNIST and CIFAR-10. Additionally, in order to show the algorithm's applicability to function approximation and control tasks, it is applied to three reinforcement learning tasks and its data-efficiency is evaluated.

研究动机与目标

• 解决增量高斯混合模型（IGMN）因矩阵求逆与行列式计算导致的高计算成本问题，其时间复杂度因立方增长而受限。
• 在图像分类（MNIST、CIFAR-10）与强化学习等高维任务中实现高效学习，其中完整协方差矩阵对性能至关重要。
• 通过在保持模型质量的同时大幅降低计算开销，提升序列与流式学习场景下的数据效率。
• 以单次更稳定更新机制替代多次秩一更新，用于精度矩阵与行列式，从而提升计算速度与数值稳定性。

提出的方法

• 该算法对高斯分量的精度矩阵（即协方差矩阵的逆）执行秩一更新，而非在每一步重新计算矩阵求逆。
• 基于相同的秩一更新原理，采用闭式公式更新行列式，避免昂贵的行列式重新计算。
• 在整个学习过程中保持完整的协方差矩阵，从而在不损失精度的前提下维持模型质量，避免对角近似带来的精度下降。
• 仅当数据点落在现有分量的马氏距离阈值内时，才对分量进行更新，确保增量适应，无需合并/分裂操作。
• 采用单次遍历学习策略，对每个新数据点实时更新参数，适用于数据流场景。
• 后验概率通过更新后的精度矩阵与行列式计算得出，实现在降低计算成本的同时进行概率推理。

实验结果

研究问题

• RQ1 能否在增量 GMM 中有效应用秩一更新于精度矩阵与行列式，以消除立方时间复杂度？
• RQ2 所提方法在高维设置下是否能在显著缩短训练时间的同时，保持与完整协方差 IGMN 相当的模型质量？
• RQ3 在连续控制任务中，改进算法的数据效率与现有强化学习基线相比如何？
• RQ4 该算法能否在不牺牲准确性的前提下，有效扩展至高维数据（如图像 MNIST、CIFAR-10）？

主要发现

• FIGMN 算法通过以秩一更新替代矩阵求逆，将渐近时间复杂度降低至 O(NKD²)，相比原始 IGMN 的 O(NKD³) 显著提升。
• 在高维合成数据上，FIGMN 展现出更优的可扩展性，训练时间随维度线性增长，而原始 IGMN 的时间呈立方增长。
• 在强化学习任务中，FIGMN 仅需 108.8 次（±22.49）episode 即可解决 Cart-Pole 任务，优于 Sarsa(λ)（557 次）与 TRPO（2103.5 次），展现出高数据效率。
• 在 Mountain Car 任务中，FIGMN 以 403.83 次（±79.23）episode 解决任务，显著快于 Sarsa(λ)（1872.5 次）与 TRPO（4064 次），证实其强大的样本效率。
• 在 Acrobot 环境中，FIGMN 仅需 301.6 次（±69.12）episode，优于 Sarsa(λ)（742 次）与 TRPO（2930.67 次），尽管 Dueling Double DQN 更具数据效率。
• 推理阶段仍具有立方复杂度，但其影响微乎其微，因为输出数量通常远小于输入数量，因此整体运行时间依然高效。