[论文解读] Fully-Convolutional Intensive Feature Flow Neural Network for Text Recognition

Zhao Zhang, Zemin Tang+4 more|arXiv (Cornell University)|Dec 13, 2019

Handwritten Text Recognition Techniques参考文献 50被引用 7

一句话总结

本文提出IntensiveNet，一种用于文本识别的全卷积神经网络，用步长为2的卷积代替传统池化操作，并引入一种包含密集融合与深度可分离卷积的密集块，以增强特征流动并保留空间信息。该模型通过提升特征利用效率与训练效率，在大规模中文文本和MNIST数据集上实现了最先进性能。

ABSTRACT

The Deep Convolutional Neural Networks (CNNs) have obtained a great success for pattern recognition, such as recognizing the texts in images. But existing CNNs based frameworks still have several drawbacks: 1) the traditaional pooling operation may lose important feature information and is unlearnable; 2) the tradi-tional convolution operation optimizes slowly and the hierar-chical features from different layers are not fully utilized. In this work, we address these problems by developing a novel deep network model called Fully-Convolutional Intensive Feature Flow Neural Network (IntensiveNet). Specifically, we design a further dense block called intensive block to extract the feature information, where the original inputs and two dense blocks are connected tightly. To encode data appropriately, we present the concepts of dense fusion block and further dense fusion opera-tions for our new intensive block. By adding short connections to different layers, the feature flow and coupling between layers are enhanced. We also replace the traditional convolution by depthwise separable convolution to make the operation efficient. To prevent important feature information being lost to a certain extent, we use a convolution operation with stride 2 to replace the original pooling operation in the customary transition layers. The recognition results on large-scale Chinese string and MNIST datasets show that our IntensiveNet can deliver enhanced recog-nition results, compared with other related deep models.

研究动机与目标

• 解决CNN中传统池化操作导致的空间与语义特征信息损失问题。
• 通过用深度可分离卷积替换标准卷积，加速训练并提升特征利用效率。
• 通过一种新型密集块（包含密集融合与跳跃连接）增强层间特征流动。
• 设计一种全卷积架构，避免下采样导致的信息损失。
• 在大规模且多样化的文本数据集上实现更优的文本识别准确率。

提出的方法

• 提出密集块，通过紧密的多尺度跳跃连接将原始输入与两个密集块连接，以促进特征重用。
• 采用密集融合块与操作，聚合来自多层的特征，增强层次化特征表示。
• 在过渡层中用步长为2的卷积操作替代传统最大池化，以保留空间分辨率并减少信息损失。
• 使用深度可分离卷积在保持模型容量与效率的同时降低计算成本。
• 设计全卷积编码器-解码器结构，支持无需全连接层的端到端文本识别。
• 在层间应用残差风格跳跃连接，以改善梯度流动并提升训练稳定性。

实验结果

研究问题

• RQ1 用步长为2的卷积替代传统池化是否能减少文本识别网络中的特征信息损失？
• RQ2 在多层之间进行密集特征融合如何提升识别准确率？
• RQ3 使用深度可分离卷积在不牺牲性能的前提下，能在多大程度上提升训练效率？
• RQ4 具有密集特征流动的全卷积架构是否能超越现有的基于CNN的文本识别模型？
• RQ5 所提出的密集块在不同文本数据集上增强特征表示的效果如何？

主要发现

• IntensiveNet在大规模中文文本识别数据集上达到最先进性能，优于现有模型。
• 该模型在MNIST数据集上表现出更高的准确率，证实其在标准基准上的有效性。
• 与最大池化相比，用步长为2的卷积替代池化显著减少了特征信息损失。
• 使用深度可分离卷积在保持高识别准确率的同时，减少了模型参数量与FLOPs。
• 结合密集融合与跳跃连接的密集块增强了特征流动，并在训练中改善了梯度传播。
• 全卷积设计支持端到端学习，并更好地保留了空间特征。