[论文解读] Multi-Column Deep Neural Networks for Offline Handwritten Chinese Character Classification

Dan Cireşan, Jürgen Schmidhuber|arXiv (Cornell University)|Sep 1, 2013

Handwritten Text Recognition Techniques参考文献 8被引用 46

一句话总结

本文提出多列深度神经网络（MCDNNs）用于离线手写中文字符识别，通过独立训练的深度神经网络的集成平均方法，实现当前最优性能。在修正先前导致结果下降高达2%的预处理错误后，该方法在ICDAR 2013数据集上的测试误差降低至4.215%，接近人类水平性能（3.87%）。

ABSTRACT

Our Multi-Column Deep Neural Networks achieve best known recognition rates on Chinese characters from the ICDAR 2011 and 2013 offline handwriting competitions, approaching human performance.

研究动机与目标

• 提升离线手写中文字符的识别准确率，该任务因类别数量庞大（3,755个）且视觉复杂度高而极具挑战。
• 解决单个深度神经网络在处理中文字符手写风格多样性与复杂性方面的局限性。
• 探究预处理不一致性对模型性能的影响，特别是在竞争性基准测试环境中的影响。
• 证明集成方法（MCDNNs）在该高难度识别任务中显著优于单个DNN。

提出的方法

• 采用多列深度神经网络（MCDNNs），通过平均多个独立训练的DNN的预测结果来降低误差率。
• 使用一致的预处理流程，包括对比度最大化和统一缩放至40×40像素，随后在48×48图像中进行居中处理，以增强对形变的鲁棒性。
• 识别并修正了训练阶段（Matlab）与推理阶段（OpenCV）之间存在的预处理差异，该问题导致原始竞赛提交结果误差增加了1.37%。
• 训练了八个具有不同卷积核映射和全连接层大小的独立DNN架构，所有网络均包含11层，输出层为3,755个神经元以实现类别分类。
• 通过组合不同训练DNN子集构建了九个MCDNN，其中表现最佳的MCDNN结合了五个网络（DNNs 0, 1, 4, 5, 7）以实现最优性能。
• 在单张NVIDIA GTX 580 GPU上实现了高达45个字符/秒的推理速度，且在多GPU环境下表现出线性可扩展性。

实验结果

研究问题

• RQ1 与单个DNN相比，多列深度神经网络（MCDNNs）能否显著提升大规模词汇量手写中文字符识别的准确率？
• RQ2 在真实世界基准竞赛中，训练与推理阶段之间的预处理不一致性如何影响模型性能？
• RQ3 MCDNN在离线手写中文字符识别任务中，能在多大程度上接近或达到人类水平性能？
• RQ4 在包含3,755个类别的复杂高维手写字符数据集上，集成平均方法对误差降低的影响如何？

主要发现

• 在修正预处理错误后，最佳MCDNN的测试误差率降至4.215%，相比最佳单个DNN（5.528%）实现了1.313%的绝对降低和23.75%的相对降低。
• MCDNN的Top-10错误率为0.291%，创下该任务新纪录，表明其与语言模型集成具有强大潜力。
• 与ICDAR 2013竞赛第一名团队相比，MCDNN的误差率绝对降低1.01%（相对降低19.3%）（5.23% vs. 4.215%），尽管原始提交结果存在缺陷。
• 最佳MCDNN在单张NVIDIA GTX 580 GPU上实现每秒处理45个字符，证明其具备适用于实时应用的高速推理能力。
• 4.215%的误差率非常接近人类基准值3.87%，表明该方法在该数据集上已接近人类水平性能。
• 所有架构中MCDNN的性能增益均保持一致，证实了集成平均在降低泛化误差方面的有效性。