[论文解读] Continual Learning with Fully Probabilistic Models

Benedikt Pfülb, Alexander Gepperth+1 more|arXiv (Cornell University)|Apr 19, 2021

Domain Adaptation and Few-Shot Learning参考文献 34被引用 4

一句话总结

本文提出高斯混合重放（Gaussian Mixture Replay, GMR），一种完全概率化的持续学习方法，利用高斯混合模型（GMM）作为伪重放的生成器和分类器。GMR 通过密度估计、类别条件采样实现无监督的任务边界检测，并在 MNIST、FashionMNIST 和 Devanagari 基准上实现最先进性能，且内存和时间复杂度极低。

ABSTRACT

We present an approach for continual learning (CL) that is based on fully probabilistic (or generative) models of machine learning. In contrast to, e.g., GANs that are "generative" in the sense that they can generate samples, fully probabilistic models aim at modeling the data distribution directly. Consequently, they provide functionalities that are highly relevant for continual learning, such as density estimation (outlier detection) and sample generation. As a concrete realization of generative continual learning, we propose Gaussian Mixture Replay (GMR). GMR is a pseudo-rehearsal approach using a Gaussian Mixture Model (GMM) instance for both generator and classifier functionalities. Relying on the MNIST, FashionMNIST and Devanagari benchmarks, we first demonstrate unsupervised task boundary detection by GMM density estimation, which we also use to reject untypical generated samples. In addition, we show that GMR is capable of class-conditional sampling in the way of a cGAN. Lastly, we verify that GMR, despite its simple structure, achieves state-of-the-art performance on common class-incremental learning problems at very competitive time and memory complexity.

研究动机与目标

• 通过支持密度估计和样本生成的完全概率化模型，解决持续学习中的灾难性遗忘问题。
• 开发一种伪重放方法，通过使用 GMM 生成过去任务的样本，避免存储真实数据。
• 通过 GMM 密度估计实现无监督的任务边界检测。
• 在极低内存和计算开销下实现高性能的持续学习。
• 尊重现实世界约束，如训练过程中无法访问过去数据（不可回看）和无法获取未来信息（不可前瞻）进行超参数调优。

提出的方法

• GMR 使用高斯混合模型（GMM）作为生成器，在训练期间生成过去任务的合成样本。
• 相同的 GMM 同时用于样本生成和密度估计，以检测分布外输入并识别任务边界。
• 分类器与 GMM 联合训练，利用 GMM 的概率结构实现不确定性感知学习。
• GMM 中使用对角线协方差矩阵以保持低内存使用，避免使用全协方差矩阵。
• 通过为不同类别分配特定的组件权重，实现条件采样，实现类似 cGAN 的生成效果。
• 超参数被最小化为单一值——GMM 组件数 K——实现无需未来数据访问的稳定、可扩展训练。

实验结果

研究问题

• RQ1 像 GMM 这类完全概率化模型能否在不存储过去数据的情况下，通过伪重放有效支持持续学习？
• RQ2 在持续学习设置中，GMM 密度估计在检测任务边界和拒绝分布外样本方面表现如何？
• RQ3 GMR 在标准基准上能否以极低内存和时间复杂度实现最先进性能？
• RQ4 GMR 是否尊重现实中的持续学习约束，如无法访问过去数据或无法进行未来超参数调优？
• RQ5 在 GMM 损失函数约束下，GMR 是否能生成高质量、类别条件的样本，且无模式崩溃现象？

主要发现

• GMR 在包括 MNIST、FashionMNIST 和 Devanagari 在内的类别增量学习基准上实现最先进性能，优于众多现有方法。
• 模型通过识别 GMM 密度估计中显著的变化，无监督地检测任务边界，实现自动子任务分割。
• GMR 通过简单的组件权重调整，可靠地生成高质量、类别条件的样本，且未观察到 GAN 中常见的模式崩溃现象。
• 内存使用极低：当 d=1000、K=100 且类别数为 10 时，模型仅需 201,010 个参数，远低于基于 DNN 的生成式重放模型。
• 该方法尊重现实约束：无需访问过去数据即可进行停止判断或超参数调优，且仅需一个自由参数（K）。
• 尽管在持续学习中表现强劲，GMR 在非持续学习（基线）分类任务中表现欠佳，表明持续学习与标准学习性能之间存在权衡。