[论文解读] Improved Deep Convolutional Neural Network For Online Handwritten Chinese Character Recognition using Domain-Specific Knowledge

Weixin Yang, Lianwen Jin+2 more|arXiv (Cornell University)|May 28, 2015

Handwritten Text Recognition Techniques参考文献 24被引用 9

一句话总结

该论文提出了一种改进的深度卷积神经网络（DCNN），通过将领域特定知识（如笔画形变、路径特征和8方向特征）整合到混合串行-并行（HSP）集成架构中，实现了在线手写中文字符识别的性能提升。该方法在CASIA-OLHWDB1.0上达到97.20%的准确率，在CASIA-OLHWDB1.1上达到96.87%，优于先前的最先进结果。

ABSTRACT

Deep convolutional neural networks (DCNNs) have achieved great success in various computer vision and pattern recognition applications, including those for handwritten Chinese character recognition (HCCR). However, most current DCNN-based HCCR approaches treat the handwritten sample simply as an image bitmap, ignoring some vital domain-specific information that may be useful but that cannot be learnt by traditional networks. In this paper, we propose an enhancement of the DCNN approach to online HCCR by incorporating a variety of domain-specific knowledge, including deformation, non-linear normalization, imaginary strokes, path signature, and 8-directional features. Our contribution is twofold. First, these domain-specific technologies are investigated and integrated with a DCNN to form a composite network to achieve improved performance. Second, the resulting DCNNs with diversity in their domain knowledge are combined using a hybrid serial-parallel (HSP) strategy. Consequently, we achieve a promising accuracy of 97.20% and 96.87% on CASIA-OLHWDB1.0 and CASIA-OLHWDB1.1, respectively, outperforming the best results previously reported in the literature.

研究动机与目标

• 通过利用原始图像像素之外的领域特定知识，提升在线手写中文字符识别（HCCR）性能。
• 解决标准DCNN忽略在线手写中结构和动态笔画特征的局限性。
• 设计一种复合DCNN框架，整合多种领域特定特征以增强特征表示能力。
• 开发一种混合串行-并行（HSP）集成策略，融合多种DCNN以提升泛化能力和准确率。

提出的方法

• 引入形变建模以捕捉在线手写轨迹中的笔画变化。
• 应用非线性归一化以标准化不同书写风格下的笔画模式。
• 引入虚拟笔画以增强特征学习中的空间上下文和结构完整性。
• 提取路径特征以编码笔画的时间动态和方向信息。
• 计算8方向特征以捕捉局部梯度模式和方向性笔画信息。
• 通过混合串行-并行（HSP）策略组合多个专用DCNN，以发挥其互补优势并提升鲁棒性。

实验结果

研究问题

• RQ1 将笔画形变和路径特征等领域特定知识整合到DCNN中，能否提升其在在线HCCR中的性能？
• RQ2 非线性归一化和虚拟笔画的引入对识别准确率有何影响？
• RQ3 如何最优地组合具有不同领域特定特征的多个DCNN以提升识别性能？
• RQ4 所提出的HSP集成策略是否在基准数据集上优于标准DCNN和单特征模型？

主要发现

• 所提方法在CASIA-OLHWDB1.0数据集上达到97.20%的识别准确率，超越了先前的最先进结果。
• 在CASIA-OLHWDB1.1数据集上，模型取得96.87%的准确率，表明其在不同书写风格下具有强大的泛化能力。
• 整合路径特征和8方向模式等领域特定特征显著增强了特征表示能力与模型性能。
• 混合串行-并行（HSP）集成策略有效融合了多种DCNN，相比单个模型，显著提升了鲁棒性和准确率。
• 非线性归一化和虚拟笔画建模对处理在线手写字符的类内差异具有显著贡献。
• 结果证实，当领域特定知识被正确编码并组合时，可显著提升基于DCNN的HCCR系统性能。