[논문 리뷰] LV-ROVER: Lexicon Verified Recognizer Output Voting Error Reduction

Bruno Stuner, Clément Chatelain외 1명|ArXiv.org|2017. 07. 24.

Internet Traffic Analysis and Secure E-voting참고 문헌 17인용 수 3

한 줄 요약

LV-ROVER는 언어 모델이 필요 없이 수백 개의 원시 BLSTM 기반 수기 텍스트 라인 인식기들을 효율적으로 조합하는 저복잡도, 어휘 검증 기반 ROVER 프레임워크를 제안한다. 어휘 기반 투표와 단어 수준의 정렬을 통합하여 RIMES 데이터셋에서 SOTA 성능을 달성하며, CER 2.53%와 WER 7.84%를 기록한다. 기존의 고전적 ROVER 및 이전 SOTA 방법들을 능가한다.

ABSTRACT

Offline handwritten text line recognition is a hard task that requires both an efficient optical character recognizer and language model. Handwriting recognition state of the art methods are based on Long Short Term Memory (LSTM) recurrent neural networks (RNN) coupled with the use of linguistic knowledge. Most of the proposed approaches in the literature focus on improving one of the two components and use constraint, dedicated to a database lexicon. However, state of the art performance is achieved by combining multiple optical models, and possibly multiple language models with the Recognizer Output Voting Error Reduction (ROVER) framework. Though handwritten line recognition with ROVER has been implemented by combining only few recognizers because training multiple complete recognizers is hard. In this paper we propose a Lexicon Verified ROVER: LV-ROVER, that has a reduce complexity compare to the original one and that can combine hundreds of recognizers without language models. We achieve state of the art for handwritten line text on the RIMES dataset.

연구 동기 및 목표

• 언어 모델이 이용 불가능할 경우에도 수백 개의 원시 수기 텍스트 라인 인식기들을 효율적으로 융합하는 문제를 해결하기 위해.
• 기존 ROVER의 동적 프rogramming 기반 정렬 방식을 피함으로써 전통적 ROVER의 계산 복잡도를 감소시키기 위해.
• 어휘 기반 투표 메커니즘을 도입하여 단어 수준의 일관성과 오류 감소를 향상시켜 인식 정확도를 향상시키기 위해.
• 언어 모델이나 데이터셋 전용 어휘에 대한 의존도를 최소화하고 오직 원시 광학 모델만을 사용하여 고성능 인식을 가능하게 하기 위해.
• 언어 스무딩 없이도 큰 규모이자 다양한 인식기들을 효과적으로 융합할 수 있으며, SOTA 성능을 달성할 수 있음을 입증하기 위해.

제안 방법

• LV-ROVER 프레임워크는 문자 수준의 동적 프로그래밍이 아닌 단어 수준의 정렬을 기반으로 하여 인식기 출력을 정렬하는 새로운 정렬 모듈을 도입하여 계산 비용을 크게 감소시킨다.
• 후보 단어를 어휘에 대조하여 검증하는 투표 메커니즘을 활용하여 비어휘적 출력을 기각하고 인식 신뢰도를 향상시킨다.
• 언어 모델 통합 없이도 수백 개의 원시 BLSTM 기반 광학 모델을 융합할 수 있도록 지원한다.
• 데이터 증강과 모델 가중치 변형을 통해 다양하고 상호 보완적인 BLSTM 인식기의 집단을 생성하는 학습 기법을 사용한다.
• 대규모 일반 목적 어휘 사전을 포함한 다중 어휘 전략을 사용하여 높은 커버리지 유지와 함께 성능 유지를 한다.
• 어휘에 종속되지 않는 설계를 하여 어떤 어휘를 사용하든 또는 어휘 없이도 사용이 가능하며, 안정성과 낮은 오류율을 유지한다.

실험 결과

연구 질문

• RQ1 언어 모델이 없더라도 계산 오버헤드를 최소화하면서 수백 개의 원시 수기 텍스트 라인 인식기들을 효율적으로 융합할 수 있는 ROVER 유사 프레임워크를 설계할 수 있는가?
• RQ2 언어 모델을 융합 과정에서 사용하지 않을 경우, 어휘 검증이 어떻게 인식 정확도를 향상시키는가?
• RQ3 전통적 ROVER와 비교해 볼 때, LV-ROVER의 성능은 어휘 크기나 커버리지에 얼마나 의존하는가?
• RQ4 오직 원시 광학 모델만을 융합하는 시스템이 수기 텍스트 인식 벤치마크에서 SOTA 성능을 달성할 수 있는가?
• RQ5 RIMES 데이터셋에서 고전적 ROVER 및 기타 SOTA 방법과 비교해 LV-ROVER는 성능과 복잡도 측면에서 어떻게 다른가?

주요 결과

• LV-ROVER는 RIMES 테스트 세트에서 Rimes 어휘를 사용하여 CER 2.53%와 WER 7.84%를 기록하며, 고전적 ROVER 및 이전 SOTA 방법을 능가한다.
• 다양한 어휘 크기에서 안정적인 성능을 유지하며, 데이터셋 전용 Rimes 어휘 없이 330만 단어의 대규모 어휘를 사용할 경우 CER는 약간 증가하여 3.17%로 상승한다.
• Voigtlaender 등(2016)과 Pham 등(2014)과 같은 최신 SOTA 방법보다 뛰어난 성능을 보이며, CER 2.53%를 기록하여 각각 2.8% 및 3.3%를 기록한 것보다 우수하다.
• 어휘 크기에 대해 낮은 민감도를 보이며, 대규모 또는 다국어 어휘에 대한 강건성과 확장성을 입증한다.
• 고전적 ROVER는 원시 인식기 조합에서 CER 4.73%를 기록하는 데에 그치며, LV-ROVER의 2.53%에 못 미친다. 이는 어휘 검증 및 효율적 정렬의 우수성을 시사한다.
• 언어 모델 없이도 고정밀도 인식이 가능하며, 어휘 검증 기반 투표를 통해 원시 광학 모델 앙상블을 효과적으로 융합할 수 있음을 입증한다.