[论文解读] Telugu OCR Framework using Deep Learning

Rakesh Achanta, Trevor Hastie|arXiv (Cornell University)|Sep 20, 2015

Handwritten Text Recognition Techniques参考文献 23被引用 15

一句话总结

本文提出了一种用于泰卢固语OCR的端到端深度学习框架，结合数学形态学进行文本分割、使用深度卷积神经网络（CNN）进行字符分类，以及使用三阶马尔可夫链语言模型进行行提取。通过将先进的神经网络技术与关键训练实践的统计依据相结合，该方法在复杂黏着性音节字母文字——泰卢固文字上实现了最先进性能。

ABSTRACT

In this paper, we address the task of Optical Character Recognition(OCR) for the Telugu script. We present an end-to-end framework that segments the text image, classifies the characters and extracts lines using a language model. The segmentation is based on mathematical morphology. The classification module, which is the most challenging task of the three, is a deep convolutional neural network. The language is modelled as a third degree markov chain at the glyph level. Telugu script is a complex alphasyllabary and the language is agglutinative, making the problem hard. In this paper we apply the latest advances in neural networks to achieve state-of-the-art error rates. We also review convolutional neural networks in great detail and expound the statistical justification behind the many tricks needed to make Deep Learning work.

研究动机与目标

• 解决泰卢固语OCR的挑战，泰卢固语是一种结构复杂且具有黏着性的文字，现有解决方案有限。
• 开发一种端到端框架，集成文本分割、字符分类和行级语言建模，以提高识别准确率。
• 应用深度学习的最新进展，在尽管文字结构复杂的情况下，实现泰卢固语OCR的最先进错误率。
• 为框架中使用的关键深度学习技术（如批量归一化和Dropout）提供详细的统计依据。

提出的方法

• 使用数学形态学进行文本分割，从输入图像中分离出单个文本行和字符。
• 采用深度卷积神经网络（CNN）进行字符分类，其网络结构设计用于处理泰卢固字母的视觉复杂性。
• 在字形级别使用三阶马尔可夫链，以建模语言结构并提高序列级识别准确率。
• 在端到端流程中整合分割、分类和语言建模，以提升整体OCR性能。
• 作者对CNN进行了全面回顾，并使用统计推理为常见深度学习实践（如权重初始化和正则化）提供理论依据。

实验结果

研究问题

• RQ1 如何设计一种端到端的深度学习框架，以处理泰卢固语OCR中的分割、分类和语言建模阶段？
• RQ2 深度CNN在面对视觉变异性的情况下，如何在准确分类复杂泰卢固字符中发挥作用？
• RQ3 在字形级别使用三阶马尔可夫链在提高行级识别准确率方面有多有效？
• RQ4 哪些统计原理支撑了这些关键深度学习技术在该OCR场景中的成功？

主要发现

• 所提出的框架在泰卢固语OCR上实现了最先进错误率，在基准数据集上优于先前方法。
• 通过整合数学形态学进行分割，能够在噪声或低质量图像中稳健地分离出文本行和字符。
• 深度CNN组件在泰卢固字母上表现出强大的泛化能力，有效捕捉了尽管文字结构复杂但依然存在的复杂空间模式。
• 三阶马尔可夫语言模型通过利用相邻字形之间的上下文依赖关系，显著提高了识别准确率。
• 对深度学习技术的统计分析为批量归一化和Dropout等实践提供了理论基础，增强了训练稳定性和模型性能。