[论文解读] LV-ROVER: Lexicon Verified Recognizer Output Voting Error Reduction

Bruno Stuner, Clément Chatelain+1 more|ArXiv.org|Jul 24, 2017

Internet Traffic Analysis and Secure E-voting参考文献 17被引用 3

一句话总结

LV-ROVER 提出了一种低复杂度、词典验证的 ROVER 框架，无需语言模型即可高效融合数百个基于 BLSTM 的原始手写文本行识别器。通过整合词级对齐与基于词典的投票机制，其在 RIMES 数据集上实现了最先进性能，字符错误率（CER）为 2.53%，词错误率（WER）为 7.84%，优于经典 ROVER 及先前的 SOTA 方法。

ABSTRACT

Offline handwritten text line recognition is a hard task that requires both an efficient optical character recognizer and language model. Handwriting recognition state of the art methods are based on Long Short Term Memory (LSTM) recurrent neural networks (RNN) coupled with the use of linguistic knowledge. Most of the proposed approaches in the literature focus on improving one of the two components and use constraint, dedicated to a database lexicon. However, state of the art performance is achieved by combining multiple optical models, and possibly multiple language models with the Recognizer Output Voting Error Reduction (ROVER) framework. Though handwritten line recognition with ROVER has been implemented by combining only few recognizers because training multiple complete recognizers is hard. In this paper we propose a Lexicon Verified ROVER: LV-ROVER, that has a reduce complexity compare to the original one and that can combine hundreds of recognizers without language models. We achieve state of the art for handwritten line text on the RIMES dataset.

研究动机与目标

• 为解决在缺乏语言模型的情况下高效融合数百个原始手写文本行识别器的挑战。
• 通过避免在多个识别器之间进行基于动态规划的对齐，降低传统 ROVER 的计算复杂度。
• 通过引入基于词典验证的投票机制，提升词级一致性与错误减少能力，从而提高识别准确率。
• 仅依赖原始光学模型实现高性能识别，最大限度减少对语言模型或数据集特定词典的依赖。
• 证明即使在无语言平滑的情况下，大规模且多样化的识别器仍可被有效组合，实现 SOTA 结果。

提出的方法

• LV-ROVER 框架引入一种新颖的对齐模块，基于词数而非字符级动态规划对齐识别器输出，显著降低计算成本。
• 其采用一种投票机制，将候选词与词典进行验证，剔除非词汇性输出，从而提升识别可靠性。
• 该方法支持融合数百个基于 BLSTM 的原始光学模型，融合过程中无需集成语言模型。
• 采用一种训练技巧，通过数据增强与模型权重扰动生成多样化、互补的 BLSTM 识别器集合。
• 系统采用多词典策略，包括大型通用词典，以在保持性能的同时实现高覆盖率。
• 该框架设计为词典无关，可适用于任意词典，甚至无需词典，同时保持鲁棒性与低错误率。

实验结果

研究问题

• RQ1 能否设计一种类似 ROVER 的框架，以极低计算开销高效融合数百个原始手写文本行识别器？
• RQ2 在融合过程中不使用语言模型时，词典验证如何提升识别准确率？
• RQ3 与传统 ROVER 相比，LV-ROVER 的性能在多大程度上依赖于词典大小或覆盖率？
• RQ4 仅使用原始光学模型的系统能否在手写文本识别基准上实现最先进性能？
• RQ5 在 RIMES 数据集上，LV-ROVER 与经典 ROVER 及其他 SOTA 方法相比，在性能与复杂度方面表现如何？

主要发现

• LV-ROVER 在使用 Rimes 词典的 RIMES 测试集上实现了 2.53% 的字符错误率（CER）与 7.84% 的词错误率（WER），优于经典 ROVER 及先前的 SOTA 方法。
• 系统在不同词典大小下均保持稳定性能，当使用不含数据集特定 Rimes 词典的 330 万词大规模词典时，CER 仅略微上升至 3.17%。
• LV-ROVER 优于最先进方法，如 Voigtlaender 等（2016）与 Pham 等（2014），分别实现 2.53% 的 CER，而后者分别为 2.8% 与 3.3%。
• 该方法对词典大小表现出较低敏感性，表明其对大规模或多语言词典具有鲁棒性与可扩展性。
• 当融合原始识别器时，经典 ROVER 的 CER 为 4.73%，显著高于 LV-ROVER 的 2.53%，凸显词典验证与高效对齐的优势。
• 该框架实现了无需语言模型的高精度识别，证明仅通过词典验证投票即可有效融合原始光学模型集成。