[论文解读] Ordinal Pooling Networks: For Preserving Information over Shrinking Feature Maps

Ashwani Kumar|arXiv (Cornell University)|Apr 8, 2018

Advanced Neural Network Applications参考文献 19被引用 7

一句话总结

本文提出有序池化网络（OPN），一种可学习的池化机制，通过根据池化区域内元素的序位对它们进行排序和加权，相比传统最大池化能保留更多特征信息。实验表明，OPN在图像分类准确率上优于最大池化，且随着网络加深，由于下采样过程中信息损失减少，性能提升预期将进一步扩大。

ABSTRACT

In the framework of convolutional neural networks that lie at the heart of deep learning, downsampling is often performed with a max-pooling operation that only retains the element with maximum activation, while completely discarding the information contained in other elements in a pooling region. To address this issue, a novel pooling scheme, Ordinal Pooling Network (OPN), is introduced in this work. OPN rearranges all the elements of a pooling region in a sequence and assigns different weights to these elements based upon their orders in the sequence, where the weights are learned via the gradient-based optimisation. The results of our small-scale experiments on image classification task demonstrate that this scheme leads to a consistent improvement in the accuracy over max-pooling operation. This improvement is expected to increase in deeper networks, where several layers of pooling become necessary.

研究动机与目标

• 为解决最大池化固有的信息损失问题，后者仅保留池化区域内最高激活值，其余全部丢弃。
• 开发一种在特征图下采样过程中保留更多空间信息和激活层级信息的池化机制。
• 提出一种可微分、通过梯度优化的池化策略，根据池化窗口内激活值的相对顺序为元素分配学习得到的权重。
• 在图像分类任务上评估所提方法的有效性，并证明其在更深网络中的可扩展性。

提出的方法

• 该方法根据激活值将池化区域内所有元素重新排列为一个有序序列。
• 为有序序列中每个位置分配可学习的权重，其中权重对应于该元素在序列中的序位排名。
• 池化操作使用这些学习得到的序位权重，对有序激活值进行加权求和。
• 通过反向传播在端到端训练过程中优化这些权重。
• 该方法被应用于标准卷积神经网络架构中，将最大池化层替换为OPN层。
• 该方法设计为与现有卷积神经网络框架兼容，并可使用标准优化技术进行训练。

实验结果

研究问题

• RQ1 一种不仅保留最大激活值，还保留更多激活信息的池化机制，是否能提升深度卷积神经网络中的分类准确率？
• RQ2 为特征图元素学习序位权重，是否相比固定的最大池化能带来更好的表征学习效果？
• RQ3 OPN在标准图像分类基准上的性能与最大池化相比如何？
• RQ4 由于在多个池化层中累积保留信息，OPN的优势是否会随着网络深度增加而提升？

主要发现

• 在小规模图像分类实验中，OPN在准确率上持续优于最大池化。
• 所提方法通过保留激活值的相对顺序和大小，减少了下采样过程中的信息损失。
• 由于池化引起的累积信息损失减少，准确率的提升在更深的网络中预期将进一步扩大。
• 学习得到的序位权重能自适应地强调基于其排名的有信息量特征，从而实现更鲁棒的特征表征。