[论文解读] An Adaptive Random Path Selection Approach for Incremental Learning

Jathushan Rajasegaran, Munawar Hayat+4 more|arXiv (Cornell University)|Jun 3, 2019

Domain Adaptation and Few-Shot Learning参考文献 36被引用 17

一句话总结

该论文提出 Adaptive RPS-Net，一种增量学习框架，可动态选择新任务的最优随机路径，同时重用现有参数以减少遗忘并提高效率。通过整合知识蒸馏、回溯机制和可塑性控制器，其在 CIFAR-100（+7.38%）和 ImageNet（+10.64%）上实现了最先进性能，且推理时间恒定，计算开销极低。

ABSTRACT

In a conventional supervised learning setting, a machine learning model has access to examples of all object classes that are desired to be recognized during the inference stage. This results in a fixed model that lacks the flexibility to adapt to new learning tasks. In practical settings, learning tasks often arrive in a sequence and the models must continually learn to increment their previously acquired knowledge. Existing incremental learning approaches fall well below the state-of-the-art cumulative models that use all training classes at once. In this paper, we propose a random path selection algorithm, called Adaptive RPS-Net, that progressively chooses optimal paths for the new tasks while encouraging parameter sharing between tasks. We introduce a new network capacity measure that enables us to automatically switch paths if the already used resources are saturated. Since the proposed path-reuse strategy ensures forward knowledge transfer, our approach is efficient and has considerably less computation overhead. As an added novelty, the proposed model integrates knowledge distillation and retrospection along with the path selection strategy to overcome catastrophic forgetting. In order to maintain an equilibrium between previous and newly acquired knowledge, we propose a simple controller to dynamically balance the model plasticity. Through extensive experiments, we demonstrate that the Adaptive RPS-Net method surpasses the state-of-the-art performance for incremental learning and by utilizing parallel computation this method can run in constant time with nearly the same efficiency as a conventional deep convolutional neural network.

研究动机与目标

• 为缓解类别增量学习中的灾难性遗忘，维持稳定性和可塑性之间的平衡。
• 通过高效的参数共享和路径重用，实现前向和后向知识迁移。
• 通过动态估计网络容量并选择最优路径，减少计算开销和内存占用。
• 维持一个与任务数量线性增长的参数预算，避免先前方法中出现的二次方增长。
• 在支持并行训练和推理的同时，确保持续学习而无需从头开始重新训练。

提出的方法

• Adaptive RPS-Net 使用随机路径选择策略，为新任务发现最优路径，并在网络容量饱和时动态切换路径。
• 提出一种新型网络容量度量方法，仅在必要时触发路径切换，确保资源利用效率。
• 控制器模块动态平衡模型可塑性，以维持新旧知识之间的均衡。
• 架构采用堆叠残差设计，以学习新任务的互补特征，同时重用先前调优的参数。
• 集成知识蒸馏与回溯机制，以保持旧任务性能并实现后向迁移。
• 该方法在训练和推理阶段均支持并行计算，实现与标准 CNN 相当的恒定时间效率。

实验结果

研究问题

• RQ1 深度学习模型如何在顺序学习新任务的同时，保持对先前学习任务的性能？
• RQ2 在不发生灾难性遗忘的前提下，如何高效且可扩展地选择并重用网络路径以实现增量学习？
• RQ3 在持续学习设置中，如何有效实现前向和后向知识迁移？
• RQ4 动态路径选择策略是否能在准确率和效率方面优于静态或启发式路径分配？
• RQ5 如何通过可学习控制器自适应网络容量和任务进展，解决稳定性-可塑性困境？

主要发现

• Adaptive RPS-Net 在 CIFAR-100 上达到 60.83% 的准确率（10 个任务），较之前最先进方法高出 7.38%。
• 在 ImageNet 上，其性能相比先前最先进模型提升 10.64%。
• 仅使用 3 条路径并采用基于阈值的路径选择，其在 CIFAR-100（10 个任务）上达到 59.15% 的准确率，计算效率相比 RPS-Net 提高约 40%。
• 模型展现出强大的前向迁移能力，在最后一个任务的首个训练周期内即达到约 95% 的最终准确率，而早期任务则需最多 20 个周期。
• 观察到后向迁移现象：随着新任务的学习，早期任务的性能逐步提升，表明知识得到巩固。
• 与遗传算法（二元锦标赛选择）相比，随机路径选择在计算成本显著更低的情况下，实现了更高的准确率（96.52% vs. 96.32%）。