[论文解读] Task-Aware Information Routing from Common Representation Space in Lifelong Learning

Prashant Bhat, Bahram Zonooz+1 more|arXiv (Cornell University)|Feb 14, 2023

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

TAMiL 提出了一种持续学习方法，该方法基于欠完备自编码器使用任务特定注意力模块（TAMs），将来自公共表征空间的任务相关资讯路由至全局工作空间，从而减少干扰和灾难性遗忘。该方法在低缓冲区设置和长任务序列下优于最先进的回放与动态稀疏方法，同时减轻了任务近期偏差并提升了校准性。

ABSTRACT

Intelligent systems deployed in the real world suffer from catastrophic forgetting when exposed to a sequence of tasks. Humans, on the other hand, acquire, consolidate, and transfer knowledge between tasks that rarely interfere with the consolidated knowledge. Accompanied by self-regulated neurogenesis, continual learning in the brain is governed by a rich set of neurophysiological processes that harbor different types of knowledge, which are then integrated by conscious processing. Thus, inspired by the Global Workspace Theory of conscious information access in the brain, we propose TAMiL, a continual learning method that entails task-attention modules to capture task-specific information from the common representation space. We employ simple, undercomplete autoencoders to create a communication bottleneck between the common representation space and the global workspace, allowing only the task-relevant information to the global workspace, thus greatly reducing task interference. Experimental results show that our method outperforms state-of-the-art rehearsal-based and dynamic sparse approaches and bridges the gap between fixed capacity and parameter isolation approaches while being scalable. We also show that our method effectively mitigates catastrophic forgetting while being well-calibrated with reduced task-recency bias.

研究动机与目标

• 通过模拟大脑中的神经生理过程，特别是自我调节的神经发生与有意识的信息访问，解决持续学习中的灾难性遗忘问题。
• 通过引入基于任务特定注意力模块的通信瓶颈，减少在类别增量和任务增量学习中的任务干扰。
• 在低内存预算和长任务序列下，提升模型的可扩展性与性能，此时回放方法通常会性能下降。
• 减轻持续学习系统中常见的任务近期偏差与模型校准不足问题。
• 展示任务注意力模块在不同持续学习算法中的泛化能力。

提出的方法

• TAMiL 使用共享主干网络将输入映射到所有任务共享的公共表征空间。
• 每个任务使用基于简单欠完备自编码器实现的任务特定注意力模块（TAM），以创建任务相关资讯的信息瓶颈。
• TAM 作为选择性门控，仅允许特定任务的特征从公共表征空间传递到全局工作空间，从而最小化干扰。
• 模型结合了经验回放与先前任务数据的记忆缓冲区，实现在固定容量下的持续学习。
• 推理过程中，使用真实 TAM（即“理想”TAM）或学习到的 TAM 来路由信息，后者实现了可扩展性与极低的参数增长。
• 该方法与多种 CL 算法兼容，包括 ER、FDR 和 DER++，展现出广泛的适用性。

实验结果

研究问题

• RQ1 通过注意力模块实现的任务感知信息路由是否能减少持续学习中的灾难性遗忘？
• RQ2 基于瓶颈化、欠完备自编码器的 TAM 是否能提升类别增量与任务增量学习中的泛化能力并减少干扰？
• RQ3 与回放和参数隔离基线相比，TAMiL 在低内存预算和长任务序列下的表现如何？
• RQ4 TAMiL 在多大程度上减轻了持续学习中的任务近期偏差与模型校准不足？
• RQ5 所提出的 TAM 机制是否可在不同持续学习框架中实现泛化？

主要发现

• 在 Seq-CIFAR100 上，TAMiL 显著优于最先进的回放方法与动态稀疏方法，尤其在固定缓冲区大小为 500 时，平均准确率提升显著。
• 该方法显著减少了任务近期偏差，表现为所有任务的概率分布更加均匀，而 ER 方法对最近任务的偏好最高可达 8 倍。
• TAMiL 在所有基线中实现了最低的期望校准误差（ECE），表明预测置信度与实际准确率更加一致。
• 即使在长任务序列（最多 20 个任务）下，TAMiL 仍保持强劲性能，展现出对长期灾难性遗忘的鲁棒性。
• 消融实验确认，TAM 显著提升了所有 CL 方法的性能，且理想 TAM 接近最优结果。
• 由于自编码器设计紧凑，每新增一个任务的参数增长可忽略不计，使 TAMiL 具备可扩展性且不会出现容量饱和。