[论文解读] Strategies for Conceptual Change in Convolutional Neural Networks

Maarten Grachten, Carlos Cancino-Chacón|arXiv (Cornell University)|Nov 5, 2017

Reinforcement Learning in Robotics参考文献 43被引用 6

一句话总结

本文评估了在迁移至新任务和领域时，适应预训练卷积神经网络（CNN）特征的多种策略，表明选择性重用所学滤波器——尤其是来自源任务的滤波器——相比随机初始化能显著加速学习。关键发现是，在保留早期卷积层滤波器的同时微调深层网络，可在手写数字、自然图像和音乐数据上实现更快的收敛速度。

ABSTRACT

A remarkable feature of human beings is their capacity for creative behaviour, referring to their ability to react to problems in ways that are novel, surprising, and useful. Transformational creativity is a form of creativity where the creative behaviour is induced by a transformation of the actor's conceptual space, that is, the representational system with which the actor interprets its environment. In this report, we focus on ways of adapting systems of learned representations as they switch from performing one task to performing another. We describe an experimental comparison of multiple strategies for adaptation of learned features, and evaluate how effectively each of these strategies realizes the adaptation, in terms of the amount of training, and in terms of their ability to cope with restricted availability of training data. We show, among other things, that across handwritten digits, natural images, and classical music, adaptive strategies are systematically more effective than a baseline method that starts learning from scratch.

研究动机与目标

• 研究在从一个任务/领域迁移到另一个任务/领域时，有效适应CNN中所学表征的策略。
• 与从随机初始化开始训练的基线方法相比，比较不同适应策略在训练速度和数据效率方面的表现。
• 评估不同适应方法在多样化领域（手写数字、自然图像和古典音乐）中的表现。
• 评估源任务类型（分类与自编码）对适应效果的影响。
• 确定在动态学习场景中，先验正则化还是选择性微调能取得更优性能。

提出的方法

• 提出并评估五种适应策略：(1) 随机初始化（RESET），(2) 仅保留第一卷积层滤波器（RESET-FILTERS），(3) 对滤波器进行先验正则化（RESET PRF），(4) 完整模型重用（RESET-FULL），以及(5) 固定早期层的微调。
• 采用多任务学习框架，即先在源任务（如分类或自编码）上预训练CNN，然后将其适应到目标任务。
• 应用卷积自编码器在源领域中学习分层表征，同时保留低层特征以实现迁移。
• 通过将目标网络的初始卷积滤波器偏向源任务中学习到的滤波器，实现先验正则化。
• 采用标准训练协议，使用随机梯度下降、批量归一化和ReLU激活函数，超参数在初步阶段完成调优。
• 使用分类准确率、目标测试集上的分类交叉熵损失以及均方误差（自编码损失）来评估性能。

实验结果

研究问题

• RQ1 不同适应策略与随机初始化相比，在收敛速度和数据效率方面表现如何？
• RQ2 源任务类型（分类与自编码）是否影响迁移学习策略的有效性？
• RQ3 在迁移场景中，滤波器的先验正则化是否比标准正则化更有效？
• RQ4 选择性重用浅层滤波器是否能实现比全模型微调或随机初始化更快的适应？
• RQ5 适应策略在渐近性能上表现如何？它们在不同数据领域中是否收敛到相似的性能水平？

主要发现

• 所有数据集上，适应策略在训练速度方面均显著优于随机初始化，收敛至高准确率的速度更快。
• 保留源任务第一卷积层滤波器的策略（RESET-FILTERS）表现最为稳定，尤其当源任务为分类时效果更佳。
• 完整模型重用策略（RESET-FULL）初始性能较高，接近其他方法的渐近性能，但随时间推移改进有限。
• 先验正则化（RESET PRF）仅带来中等且不一致的性能提升，表明在大多数情况下收益有限。
• 当源任务为自编码时，RESET-FILTERS策略仍表现良好，表明无论源任务类型如何，低层特征的重用均具有效性。
• 无单一策略在所有情况下均占优；然而，选择性滤波器重用在多样化领域和任务中展现出最有效且最稳健的表现。