[论文解读] EdgeNet: A novel approach for Arabic numeral classification

S M A Sharif, Ghulam Mujtaba+1 more|arXiv (Cornell University)|Jul 30, 2019

Handwritten Text Recognition Techniques参考文献 27被引用 5

一句话总结

本文提出 EdgeNet，一种用于阿拉伯手写数字识别的新型深度学习模型，通过统一、增强的数据集并利用残差连接传播低层次边缘特征。该方法在验证集上达到 99.59% 的准确率，优于现有最先进模型，且参数量更少。

ABSTRACT

Despite the importance of handwritten numeral classification, a robust and effective method for a widely used language like Arabic is still due. This study focuses to overcome two major limitations of existing works: data diversity and effective learning method. Hence, the existing Arabic numeral datasets have been merged into a single dataset and augmented to introduce data diversity. Moreover, a novel deep model has been proposed to exploit diverse data samples of unified dataset. The proposed deep model utilizes the low-level edge features by propagating them through residual connection. To make a fair comparison with the proposed model, the existing works have been studied under the unified dataset. The comparison experiments illustrate that the unified dataset accelerates the performance of the existing works. Moreover, the proposed model outperforms the existing state-of-the-art Arabic handwritten numeral classification methods and obtain an accuracy of 99.59% in the validation phase. Apart from that, different state-of-the-art classification models have studied with the same dataset to reveal their feasibility for the Arabic numeral classification. Code available at http://github.com/sharif-apu/EdgeNet.

研究动机与目标

• 解决现有阿拉伯手写数字数据集中数据多样性不足的问题。
• 开发一种能有效利用低层次边缘特征以提升分类性能的深度学习模型。
• 评估现有最先进网络架构在统一阿拉伯数字数据集上的性能表现。
• 证明通过残差连接传播边缘特征可提升模型泛化能力与准确率。
• 建立一个基准统一数据集，以加速现有方法的性能表现。

提出的方法

• 作者将多个现有的阿拉伯数字数据集统一为一个更大、更统一的数据集，以增强数据多样性。
• 应用数据增强技术，进一步提升训练样本的变异性与鲁棒性。
• 设计了一种新型深度神经网络 EdgeNet，通过残差连接提取并传播低层次边缘特征。
• EdgeNet 以边缘图作为输入特征，经由带有跳跃连接的卷积层处理，以保留并利用细粒度的结构信息。
• 模型在统一数据集上使用标准优化技术与超参数调优进行端到端训练。
• 在统一数据集和标准 MNIST 基准上评估性能，以衡量泛化能力与鲁棒性。

实验结果

研究问题

• RQ1 将现有阿拉伯数字数据集统一并增强，是否能显著提升现有分类模型的性能？
• RQ2 通过残差连接引入低层次边缘特征，是否能提升阿拉伯手写数字识别的分类准确率？
• RQ3 当应用于统一的阿拉伯数字数据集时，最先进深度学习架构（如 ResNet、DenseNet、VGG）的性能表现如何？
• RQ4 是否可通过强调边缘特征的模型，在不增加可训练参数数量的前提下超越标准 CNN？
• RQ5 所提出的 EdgeNet 在其他数字数据集（如 MNIST）上的泛化能力如何？

主要发现

• EdgeNet 在统一的阿拉伯数字数据集上达到 99.59% 的验证准确率，优于所有现有最先进方法。
• 统一并增强后的数据集显著提升了现有模型的性能，其中一种方法准确率提升超过 11%。
• EdgeNet 在测试集上达到 99.50% 的准确率，表明其在未见数据上具有强大的泛化能力与一致性。
• 在 MNIST 基准上，EdgeNet 达到 99.55% 的验证准确率，超越所有对比模型，包括 VGG16 和 InceptionV2。
• 尽管参数量更少，EdgeNet 仍优于更深的模型（如 DenseNet 和 VGG19），表明其具有极高的参数效率。
• 研究证实，当在多样化、统一的数据集上训练时，ResNet、DenseNet、VGG 和 Inception 架构在阿拉伯手写数字分类任务中均具有可行性与有效性。