[论文解读] A Combinatorial Perspective on Transfer Learning

Jianan Wang, Eren Sezener+3 more|arXiv (Cornell University)|Oct 23, 2020

Domain Adaptation and Few-Shot Learning参考文献 35被引用 4

一句话总结

该论文提出了一种组合式迁移学习框架，通过局部集成模块化、任务特定的节点，使神经网络能够泛化到指数级更多的未见任务。该方法利用 Forget-Me-Not 过程进行任务分割和基于记忆的集成，并采用门控线性网络（Gated Linear Networks）实现模块化、局部学习，从而在 Split/Permuted MNIST 和真实世界电力市场数据上，实现了无灾难性遗忘的鲁棒持续学习，并表现出持续增加的正向迁移，优于当前最先进的在线与离线方法。

ABSTRACT

Human intelligence is characterized not only by the capacity to learn complex skills, but the ability to rapidly adapt and acquire new skills within an ever-changing environment. In this work we study how the learning of modular solutions can allow for effective generalization to both unseen and potentially differently distributed data. Our main postulate is that the combination of task segmentation, modular learning and memory-based ensembling can give rise to generalization on an exponentially growing number of unseen tasks. We provide a concrete instantiation of this idea using a combination of: (1) the Forget-Me-Not Process, for task segmentation and memory based ensembling; and (2) Gated Linear Networks, which in contrast to contemporary deep learning techniques use a modular and local learning mechanism. We demonstrate that this system exhibits a number of desirable continual learning properties: robustness to catastrophic forgetting, no negative transfer and increasing levels of positive transfer as more tasks are seen. We show competitive performance against both offline and online methods on standard continual learning benchmarks.

研究动机与目标

• 为解决深度学习在在线持续学习中的局限性，即模型存在灾难性遗忘且数据效率低下。
• 通过模块化、组合式迁移，实现对指数级增长的未见任务的泛化能力。
• 开发一种框架，利用任务分割、模块化学习和基于记忆的集成，而无需依赖任务边界或身份信息。
• 在在线设置中实现鲁棒的正向与反向迁移，且无负向迁移。
• 通过使用在线流式数据，提供一种数据高效、隐私友好的替代批量独立同分布（i.i.d.）训练的方法。

提出的方法

• 该框架使用 Forget-Me-Not 过程动态分割任务，并维护过去任务特定模型的记忆。
• 采用门控线性网络（Gated Linear Networks, GLNs）实现每个神经元的模块化、局部学习，支持显式的节点级集成。
• 任务特定网络在节点级别进行局部集成，从 $ h $ 个任务和 $ m $ 个节点中生成 $ h^m $ 种可能的伪任务配置。
• 系统采用几何混合进行概率预测和在线权重更新，实现无需存储原始数据的持续适应。
• 该方法不依赖批量独立同分布训练，且无需显式任务身份或边界检测。
• 通过结合 GLNs 和 FMN，构建互补系统，支持组合式迁移和对分布漂移的鲁棒性。

实验结果

研究问题

• RQ1 通过局部节点集成，是否可以使在一系列任务上训练的神经网络泛化到指数级更多的未见伪任务？
• RQ2 如 GLNs 这类模块化、局部学习机制，是否能在在线持续学习中实现有效的组合式迁移，且无灾难性遗忘？
• RQ3 该系统是否在无需任务边界或身份信息的情况下，表现出正向与反向迁移？
• RQ4 当任务身份未知时，该方法在数据漂移条件下的表现如何，相较于现有持续学习算法？
• RQ5 该框架是否能在不存储过去数据的情况下，保持在真实世界非平稳数据流上的高性能？

主要发现

• 所提出的 nctl 算法在 Split Fashion MNIST 基准上达到 97.31 ± 0.11 的准确率，优于先前的在线方法，并接近离线方法的上限 98.59 ± 0.15。
• 在具有未知分布漂移的 Electricity (Elec2-3) 数据集上，nctl 达到 86.37% 的准确率，显著优于 SPLICE-2（66–67.7%）和 DWM-NB（80.75%）。
• 系统表现出无灾难性遗忘，且随着学习任务的增加，正向反向迁移持续增强，表明知识保留效果良好。
• 组合式迁移得到实证验证：模型泛化到 $ h^m $ 个伪任务，且语义上合理的任务组合具有意义。
• 该方法对分布漂移具有鲁棒性，且无需任务身份或边界检测，支持真正的在线持续学习。
• 该框架在不存储原始数据的情况下实现了具有竞争力的性能，支持隐私保护学习。