[论文解读] Simple Lifelong Learning Machines

Jayanta Dey, Joshua T. Vogelstein+14 more|arXiv (Cornell University)|Apr 27, 2020

Computability, Logic, AI Algorithms被引用 4

一句话总结

本文提出了协同森林（SynF）和协同网络（SynN），这两种是终身学习算法，通过整合在不同任务上独立训练的模型表示，实现正向与反向迁移。通过采用准线性时间的特定任务表示集成方法，该方法在视觉、听觉和表格基准上均取得显著性能提升，在低数据和高数据场景下均优于现有方法。

ABSTRACT

In lifelong learning, data are used to improve performance not only on the present task, but also on past and future (unencountered) tasks. While typical transfer learning algorithms can improve performance on future tasks, their performance on prior tasks degrades upon learning new tasks (called forgetting). Many recent approaches for continual or lifelong learning have attempted to maintain performance on old tasks given new tasks. But striving to avoid forgetting sets the goal unnecessarily low. The goal of lifelong learning should be to use data to improve performance on both future tasks (forward transfer) and past tasks (backward transfer). In this paper, we show that a simple approach -- representation ensembling -- demonstrates both forward and backward transfer in a variety of simulated and benchmark data scenarios, including tabular, vision (CIFAR-100, 5-dataset, Split Mini-Imagenet, and Food1k), and speech (spoken digit), in contrast to various reference algorithms, which typically failed to transfer either forward or backward, or both. Moreover, our proposed approach can flexibly operate with or without a computational budget.

研究动机与目标

• 解决现有终身学习算法无法同时实现正向与反向迁移的局限性。
• 开发一种可扩展的、准线性时间的方法，通过表示集成实现在过去和未来任务上的持续改进。
• 证明在低数据场景下可系统性地实现正向与反向迁移，此时迁移最为关键。
• 提供一种资源增长型方法，动态整合新表示而不产生灾难性遗忘。
• 在多样化基准上验证该方法，包括视觉（CIFAR-100、Food1k、Split Mini-Imagenet）、听觉（语音数字）和表格数据。

提出的方法

• 采用类似袋装法的策略，集成在每个任务上独立学习的表示，其中每个任务由独立的估计器（随机森林或深度神经网络）建模。
• 对于每个新任务，系统存储训练好的表示，并在后续通过平均或投票方式与已有表示结合，形成统一的预测器。
• 推理过程使用所有先前学习到的表示作为特征，从而在无需微调的情况下实现正向与反向迁移。
• 计算复杂度在任务数和样本数上为准线性，通过避免完整微调或参数正则化实现。
• 该方法具备任务感知性，即在推理时系统能识别样本所属的任务，从而实现选择性表示融合。
• 消融实验表明，随着表示容量增加以及旧任务数据的重放，性能持续提升。

实验结果

研究问题

• RQ1 在独立训练的模型之间进行表示集成，是否能实现在终身学习中的正向与反向迁移？
• RQ2 所提出的方法是否在低数据场景下实现显著迁移，而这些场景下迁移最为关键？
• RQ3 表示集成方法在多样化基准上的性能与现有终身学习算法相比如何？
• RQ4 表示容量和旧数据重放对集成系统性能的影响是什么？
• RQ5 准线性时间算法是否能有效扩展至包含大量任务和高维数据的大规模终身学习场景？

主要发现

• SynF和SynN在视觉、听觉和表格数据集上的正向迁移、反向迁移及总体迁移性能均优于所有基线算法。
• 在语音数字数据集上，SynF和SynN实现了正向与反向迁移，而其他方法无法同时实现两者。
• 在Food1k 50X20数据集上，SynN在所有算法中表现最佳，展现出在大规模场景下的强可扩展性与迁移能力。
• 在Split Mini-Imagenet和5-数据集上，SynF和SynN即使在每类样本数较少的情况下，遗忘程度也低于基线方法。
• 消融实验确认，增加表示容量以及重放旧任务数据能显著提升性能，验证了这些组件的重要性。
• 结果表明，基于袋装的终身学习（SynF/SynN）在低数据场景下优于基于提升的基线方法（如Model Zoo），与单任务学习中的已知行为一致。