[论文解读] Capsule networks for low-data transfer learning

Andrew Gritsevskiy, Maksym Korablyov|arXiv (Cornell University)|Apr 26, 2018

Topic Modeling参考文献 2被引用 3

一句话总结

本文提出了一种基于胶囊网络的架构，用于低数据量迁移学习，通过结合生成式与非生成式胶囊网络，并引入中间路由机制，显著加快了对少量样本的新类别适应速度。实验表明，与等效的卷积神经网络相比，生成式胶囊网络在未见数字上的泛化速度可快25倍以上，仅需1–100个缺失数字的训练样本即可达到相近的准确率，数据来自multiMNIST数据集。

ABSTRACT

We propose a capsule network-based architecture for generalizing learning to new data with few examples. Using both generative and non-generative capsule networks with intermediate routing, we are able to generalize to new information over 25 times faster than a similar convolutional neural network. We train the networks on the multiMNIST dataset lacking one digit. After the networks reach their maximum accuracy, we inject 1-100 examples of the missing digit into the training set, and measure the number of batches needed to return to a comparable level of accuracy. We then discuss the improvement in low-data transfer learning that capsule networks bring, and propose future directions for capsule research.

研究动机与目标

• 为解决神经网络在泛化到新概念时需要大量数据的问题，而人类则能从少量样本中学习。
• 探究胶囊网络是否能在低数据量条件下显著提升迁移学习性能。
• 评估生成式与非生成式胶囊网络结合中间路由机制，在仅用少量训练样本适应新类别时的有效性。
• 比较胶囊网络与卷积神经网络在向部分训练模型中注入缺失数字数据时的收敛速度与最终准确率。

提出的方法

• 本研究采用三种架构：标准卷积神经网络（CNN）、使用动态路由的常规胶囊网络，以及采用记忆架构与卷积重建的生成式胶囊网络。
• 胶囊网络中使用动态路由，根据胶囊间的预测一致性来路由信息，从而实现更优的对象姿态与实例化参数估计。
• 生成式胶囊网络通过从数字胶囊激活重建输入图像，实现端到端训练，提升特征学习与泛化能力。
• 实验使用multiMNIST数据集的变体，即缺失数字的subMMNIST和有限样本的ldMMNIST，其中单一数字仅提供1–5000个样本。
• 训练首先在subMMNIST（缺失数字）上进行，随后通过multiMNNIST或ldMMNIST注入缺失数字，测量恢复至先前准确率的收敛速度。
• 性能通过在数据注入后微调阶段的批次准确率变化进行评估，最终准确率与收敛时间作为关键指标。

实验结果

研究问题

• RQ1 胶囊网络是否能在远少于传统CNN所需训练样本的情况下泛化到新类别？
• RQ2 在低数据量迁移学习中，胶囊网络中引入生成式重建是否能提升收敛速度？
• RQ3 当向部分训练模型中注入缺失数字时，胶囊网络相比CNN在适应速度上的相对提升如何？
• RQ4 胶囊网络中的中间路由是否能增强少样本学习场景下的泛化能力？
• RQ5 在1–5000个少样本的情况下，胶囊网络相比CNN的收敛速率如何变化？

主要发现

• 当向训练集注入100个缺失数字样本时，生成式胶囊网络的收敛速度比等效的卷积神经网络快25倍以上，可恢复至注入前的准确率水平。
• 在注入100个样本后，生成式胶囊网络在完整数字测试集上的最终测试准确率达到0.974999995，显著优于CNN的收敛速度。
• 仅使用1个缺失数字样本时，生成式胶囊网络的最终准确率达到0.970703125，展现出强大的少样本泛化能力。
• 胶囊网络在整个微调过程中保持高准确率（超过0.96），而CNN在数据注入阶段后需要显著更多的批次才能恢复。
• 生成式胶囊网络的重建机制通过更优的特征解耦与姿态估计，实现了更快更稳定的适应，尤其在低数据量场景下表现更优。
• 即使仅提供1个缺失数字样本，胶囊网络的最终准确率仍达到0.9707，表明其在极小监督下的强大泛化能力。