[论文解读] A general approach to progressive learning

Joshua T Vogelstein, Hayden S. Helm+8 more|arXiv (Cornell University)|Apr 27, 2020

Domain Adaptation and Few-Shot Learning参考文献 45被引用 6

一句话总结

本文提出表征集成作为一种通用的渐进式学习方法，其中模型通过新数据持续提升对过去、当前和未来任务的性能，避免了传统方法中灾难性遗忘的问题。该方法利用决策森林和深度网络等模型的多样化表征，在视觉、语言和对抗性任务中均展现出一致的性能提升，无论是否存在资源限制。

ABSTRACT

In biological learning, data are used to improve performance simultaneously on the current task, as well as previously encountered and as yet unencountered tasks. In contrast, classical machine learning starts from a blank slate, or tabula rasa, using data only for the single task at hand. While typical transfer learning algorithms can improve performance on future tasks, their performance on prior tasks degrades upon learning new tasks (called catastrophic forgetting). Many recent approaches have attempted to maintain performance given new tasks. But striving to avoid forgetting sets the goal unnecessarily low: the goal of progressive learning, whether biological or artificial, is to improve performance on all tasks (including past and future) with any new data. We propose representation ensembling, as opposed to learner ensembling (e.g., bagging), to address progressive learning. We show that representation ensembling -- including representations learned by decision forests or deep network -- uniquely demonstrates improved performance on both past and future tasks in a variety of simulated and real data scenarios, including vision, language, and adversarial tasks, with or without resource constraints. Beyond progressive learning, this work has immediate implications with regards to mitigating batch effects and federated learning applications. We expect a deeper understanding of the mechanisms underlying biological progressive learning to enable further improvements in machine progressive learning.

研究动机与目标

• 解决经典机器学习的局限性，即从零开始且仅针对当前任务进行优化。
• 克服迁移学习中的灾难性遗忘问题，即在学习新任务时先前任务的性能下降。
• 实现渐进式学习的真正目标：在获得新数据的同时，同步提升对过去、当前和未来所有任务的性能。
• 开发一种可推广至视觉、语言和对抗性学习等多样化领域的通用方法。
• 探索在联邦学习和批次效应缓解中的实际应用。

提出的方法

• 提出表征集成而非学习器集成（如袋装法），将来自不同模型的多种表征进行融合。
• 使用决策森林和深度神经网络等多样化架构学习任务特定的表征。
• 通过在任务间持续维护和更新一组表征，实现持续学习，而非重新训练或微调单一模型。
• 采用统一框架整合来自不同模型的表征，无需为每个新任务重新训练模型。
• 通过动态管理表征存储和推理，支持资源受限和非受限场景。
• 在视觉、语言和对抗性任务的真实和模拟数据上应用该框架，以验证其泛化能力。

实验结果

研究问题

• RQ1 表征集成是否能够在持续学习过程中，同时提升对过去和未来任务的性能？
• RQ2 表征集成与传统迁移学习和模型集成相比，在缓解灾难性遗忘方面表现如何？
• RQ3 表征集成在视觉、自然语言和对抗性任务等多样化领域中的泛化能力如何？
• RQ4 在内存或计算资源受限的情况下，表征集成是否仍具有效性？
• RQ5 该方法能否扩展以应对联邦学习和批次效应等现实挑战？

主要发现

• 表征集成在持续提升过去任务性能的同时，也显著增强了对未来的任务性能，展现出真正的渐进式学习能力。
• 该方法优于标准迁移学习和学习器集成（如袋装法），避免了对先前学习任务的性能下降。
• 该方法在视觉、自然语言处理和对抗性学习场景等多样化领域中均表现出色。
• 即使在资源受限条件下，表征集成仍保持强劲性能，展现出良好的可扩展性和适应性。
• 该框架在联邦学习和批次效应缓解方面立即产生显著效益，表明其应用范围不仅限于持续学习。
• 结果表明，与模型级集成方法相比，表征级集成在渐进式学习中更具有效性。