[论文解读] Lifelong Learning of Compositional Structures

Jorge A. Mendez, Eric Eaton|arXiv (Cornell University)|Jul 15, 2020

Domain Adaptation and Few-Shot Learning参考文献 38被引用 11

一句话总结

本文提出了一种终身学习框架，将知识获取过程划分为同化（重用现有组件）和顺应（为新任务调整组件），从而实现稳定且组合式的知识重用。实证结果表明，该框架减少了灾难性遗忘，并在多种任务上学习到可解释且可重用的功能组件，其在稳定性和性能方面均优于联合训练基线方法。

ABSTRACT

A hallmark of human intelligence is the ability to construct self-contained chunks of knowledge and adequately reuse them in novel combinations for solving different yet structurally related problems. Learning such compositional structures has been a significant challenge for artificial systems, due to the combinatorial nature of the underlying search problem. To date, research into compositional learning has largely proceeded separately from work on lifelong or continual learning. We integrate these two lines of work to present a general-purpose framework for lifelong learning of compositional structures that can be used for solving a stream of related tasks. Our framework separates the learning process into two broad stages: learning how to best combine existing components in order to assimilate a novel problem, and learning how to adapt the set of existing components to accommodate the new problem. This separation explicitly handles the trade-off between the stability required to remember how to solve earlier tasks and the flexibility required to solve new tasks, as we show empirically in an extensive evaluation.

研究动机与目标

• 解决具有可重用组合知识结构的终身学习挑战，这些结构可在不同任务间复用。
• 将终身学习与组合学习相结合，克服以往研究中二者分离处理的局限性。
• 通过两阶段学习过程，实现可自主发现的、自包含的可重用功能组件。
• 在保持灵活性以适应新结构相关任务的同时，减少灾难性遗忘。
• 提供一种通用框架，兼容多种组合结构和持续学习机制。

提出的方法

• 该框架将终身学习划分为两个阶段：同化（利用现有组件组合解决新任务）和顺应（基于新任务的洞察调整组件）。
• 采用软层排序机制，在共享组件上学习特定任务的结构，实现知识的可微分组合。
• 该方法兼容多种持续学习技术，包括经验回放、弹性权重固化和微调，以实现知识保留。
• 通过端到端训练，使用像素级重建任务（如MNIST数字）的二元交叉熵损失学习组件。
• 通过在不同深度调整组件强度来可视化，以解释学习到的功能原语，并对比组合式经验回放与联合式经验回放基线。
• 该框架以九种组合结构与知识保留方法的组合实例化，在八个数据集上进行评估。

实验结果

研究问题

• RQ1 终身学习系统能否在一系列相关任务的流式处理中，自主发现并重用组合知识结构？
• RQ2 将同化与顺应阶段分离，如何提升持续学习中的稳定性和性能？
• RQ3 在所提框架下学习到的组件是否对应于可解释且可重用的功能原语？
• RQ4 该框架在缓解灾难性遗忘方面与联合训练基线相比表现如何？
• RQ5 所学组件在不同任务和网络深度上是否表现出一致且有意义的影响？

主要发现

• 该组合式框架在八个数据集上均一致优于联合训练基线，在整体性能上表现更优，并显著减少了灾难性遗忘。
• 通过组合方法学习到的组件在不同任务和网络深度上表现出一致且可解释的作用，如对数字进行平滑或旋转处理。
• 相比之下，联合经验回放基线学习到的组件无一致行为，其在不同深度上的影响各异且依赖于任务。
• 可视化结果证实，组合式经验回放的组件作为可重用的功能原语，其强度变化可产生可预测且有意义的数字图像变换。
• 该框架成功学习到自包含且可重用的组件，这些组件可被新颖地组合以解决新任务。
• 两阶段过程通过实证验证，有效平衡了稳定性（保留旧知识）与灵活性（适应新任务）。