[论文解读] HitNet: a neural network with capsules embedded in a Hit-or-Miss layer, extended with hybrid data augmentation and ghost capsules

Adrien Deliège, Anthony Cioppa+1 more|arXiv (Cornell University)|Jun 18, 2018

Advanced Neural Network Applications参考文献 23被引用 39

一句话总结

HitNet 提出了一种新颖的神经网络架构，用胶囊的命中-未命中（HoM）层替代传统的分类层，并采用向心损失以提升分类准确率与速度。该方法在 MNIST 上达到最先进性能，在多个数据集上优于 CapsNet，同时通过学习到的原型与幽灵胶囊实现混合数据增强，以检测误标定的数据。

ABSTRACT

Neural networks designed for the task of classification have become a commodity in recent years. Many works target the development of better networks, which results in a complexification of their architectures with more layers, multiple sub-networks, or even the combination of multiple classifiers. In this paper, we show how to redesign a simple network to reach excellent performances, which are better than the results reproduced with CapsNet on several datasets, by replacing a layer with a Hit-or-Miss layer. This layer contains activated vectors, called capsules, that we train to hit or miss a central capsule by tailoring a specific centripetal loss function. We also show how our network, named HitNet, is capable of synthesizing a representative sample of the images of a given class by including a reconstruction network. This possibility allows to develop a data augmentation step combining information from the data space and the feature space, resulting in a hybrid data augmentation process. In addition, we introduce the possibility for HitNet, to adopt an alternative to the true target when needed by using the new concept of ghost capsules, which is used here to detect potentially mislabeled images in the training data.

研究动机与目标

• 通过简化架构同时保留基于胶囊的表征能力，开发一种比 CapsNet 更快、更准确的图像分类替代方法。
• 通过结合真实数据与基于特征空间原型生成的合成数据，实现有效的数据增强。
• 利用幽灵胶囊评估替代类别预测，检测潜在误标定的训练图像。
• 证明最小胶囊层可超越采用动态路由的复杂胶囊网络。

提出的方法

• 引入命中-未命中（HoM）层，通过一种新颖的向心损失函数，使胶囊学习‘命中’真实类别胶囊并‘未命中’其他类别胶囊。
• 采用重建网络（解码器）通过变形 HoM 层的重建特征，生成原型——即类别特定的代表性样本。
• 通过在特征空间中变形原型，将真实训练图像与合成图像结合，实现混合数据增强。
• 引入幽灵胶囊，模拟替代类别预测，并评估其是否可能‘命中’目标，从而实现对模糊或误标定样本的检测。
• 使用挤压激活函数以保持胶囊向量方向，并确保活性向量长度编码存在概率。
• 端到端训练网络，采用组合损失：向心损失用于分类，重建损失用于原型生成。

实验结果

研究问题

• RQ1 一个采用新型损失函数的最小胶囊层是否能在标准基准上实现比 CapsNet 更高的准确率与更快的速度？
• RQ2 从解码器导出的原型是否可有效用于结合数据空间与特征空间生成的混合数据增强？
• RQ3 幽灵胶囊是否可通过评估替代类别预测来检测潜在误标定的图像？
• RQ4 HitNet 是否无需学习率衰减或大量超参数调优即可实现良好泛化？

主要发现

• HitNet 在 MNIST 数据集上以浅层架构实现最先进性能，超越了已报道的 CapsNet 结果。
• HitNet 在多个数据集（包括 affNIST、multiMNIST、SVHN、smallNORB 和 CIFAR10）上优于复现的 CapsNet 结果，且训练速度至少快 10 倍。
• 网络在无需学习率衰减的情况下稳定收敛，并在多个随机种子下表现出低方差，表明其鲁棒性。
• 使用原型的混合数据增强提升了泛化能力，并通过生成逼真的合成样本，使分类准确率略有提升。
• 幽灵胶囊通过检测强烈的替代类别预测，成功识别出可疑的训练图像，实现潜在标注错误的检测。
• HoM 层结合向心损失在收敛速度与性能上优于 CapsNet 的动态路由，同时保持了基于胶囊的空间推理能力。