[论文解读] Fitted Learning: Models with Awareness of their Limits

Navid Kardan, Kenneth O. Stanley|arXiv (Cornell University)|Sep 7, 2016

Domain Adaptation and Few-Shot Learning参考文献 26被引用 8

一句话总结

本文提出Fitted Learning框架，通过使用竞争性超完备输出层（COOL）使神经网络能够识别自身知识的边界，从而减少过度泛化。COOL提升了对对抗样本的鲁棒性，支持零样本学习，且在无需微调的情况下实现持续学习，在CIFAR-100上使用Dropout达到74.72%的准确率，优于标准CNN。

ABSTRACT

Though deep learning has pushed the boundaries of classification forward, in recent years hints of the limits of standard classification have begun to emerge. Problems such as fooling, adding new classes over time, and the need to retrain learning models only for small changes to the original problem all point to a potential shortcoming in the classic classification regime, where a comprehensive a priori knowledge of the possible classes or concepts is critical. Without such knowledge, classifiers misjudge the limits of their knowledge and overgeneralization therefore becomes a serious obstacle to consistent performance. In response to these challenges, this paper extends the classic regime by reframing classification instead with the assumption that concepts present in the training set are only a sample of the hypothetical final set of concepts. To bring learning models into this new paradigm, a novel elaboration of standard architectures called the competitive overcomplete output layer (COOL) neural network is introduced. Experiments demonstrate the effectiveness of COOL by applying it to fooling, separable concept learning, one-class neural networks, and standard classification benchmarks. The results suggest that, unlike conventional classifiers, the amount of generalization in COOL networks can be tuned to match the problem.

研究动机与目标

• 解决标准深度学习分类器过度泛化且无法识别未知输入的问题。
• 使神经网络能够意识到自身的知识边界，模拟人类的不确定性。
• 通过允许在不重新训练整个模型的情况下添加新类别，支持持续学习。
• 通过学习紧密、受数据约束的决策边界，使一类神经网络成为可能。
• 开发一种简单、可插拔的机制，与标准深度学习架构兼容。

提出的方法

• 引入竞争性超完备输出层（COOL），其中每个类别下的多个神经元竞争响应输入模式。
• 使用随机梯度下降训练COOL网络，使每个类别内的神经元学习输入空间中重叠但不完全相同的区域。
• 通过输出神经元之间的竞争，将分类置信度限制在紧密、贴近数据的区域，从而减少过度泛化。
• 利用COOL神经元的集成式行为，隐式表示指数级数量的模型，类似于Dropout。
• 使用标准反向传播和优化方法训练COOL网络，无需对网络架构进行重大修改。
• 将独立训练的COOL模块组合，形成统一的分类器，以解决可分概念学习的问题。

实验结果

研究问题

• RQ1 是否可以训练神经网络以识别输入不属于任何已知类别的情况，从而降低对分布外输入的过度自信？
• RQ2 COOL网络是否能在无需负样本的情况下有效学习一类决策边界？
• RQ3 COOL是否可通过在不重新训练整个模型的情况下添加新类别，实现持续学习？
• RQ4 与标准分类器相比，COOL机制是否能提升对对抗样本的鲁棒性？
• RQ5 COOL是否可与现有深度学习架构集成，以提升在标准基准上的性能？

主要发现

• COOL网络在CIFAR-100上达到74.72%的测试准确率，优于多个SOTA模型（如ELU-Network的75.72%），且在相同架构和Dropout设置下表现更优。
• COOL架构显著降低了对抗样本上的置信度，从而有效减少被欺骗的情况，而标准网络对这些样本的误分类置信度超过99%。
• COOL通过学习紧密、受数据约束的决策边界，使一类神经网络成为可能，能够有效区分已知与未知输入。
• COOL使独立训练的分类器可组合为单一统一模型，解决了可分概念学习的问题。
• COOL与Dropout的协同作用进一步提升了性能，准确率达到74.72%，优于使用Dropout的标准CNN（72.79%）。
• 可视化结果表明，COOL神经元学习到重叠但不完全相同的区域，从而对训练数据拟合更紧密，减少过度泛化。