[논문 리뷰] AltecOnDB: A Large-Vocabulary Arabic Online Handwriting Recognition Database

Ibrahim Abdelaziz, Sherif Abdou|arXiv (Cornell University)|2014. 12. 24.

Handwritten Text Recognition Techniques참고 문헌 20인용 수 17

한 줄 요약

이 논문은 문장, 단어, 문자 수준에서 고려된 문맥 모델링을 위한 대규모 어휘를 갖춘 1,000명의 다양한 글쓰는 이들이 기여한 아랍어 온라인 필기 인식 데이터베이스인 AltecOnDB를 소개한다. 이 데이터베이스는 5-그램 언어 모델을 사용한 이중 단계 시스템으로 51.65%의 정확도를 달성하여 언어 모델링이 없는 기준선의 34.30%보다 유의하게 향상되었으며, 복잡한 스크립트에서 고수준 언어적 문맥의 가치를 입증한다.

ABSTRACT

Arabic is a semitic language characterized by a complex and rich morphology. The exceptional degree of ambiguity in the writing system, the rich morphology, and the highly complex word formation process of roots and patterns all contribute to making computational approaches to Arabic very challenging. As a result, a practical handwriting recognition system should support large vocabulary to provide a high coverage and use the context information for disambiguation. Several research efforts have been devoted for building online Arabic handwriting recognition systems. Most of these methods are either using their small private test data sets or a standard database with limited lexicon and coverage. A large scale handwriting database is an essential resource that can advance the research of online handwriting recognition. Currently, there is no online Arabic handwriting database with large lexicon, high coverage, large number of writers and training/testing data. In this paper, we introduce AltecOnDB, a large scale online Arabic handwriting database. AltecOnDB has 98% coverage of all the possible PAWS of the Arabic language. The collected samples are complete sentences that include digits and punctuation marks. The collected data is available on sentence, word and character levels, hence, high-level linguistic models can be used for performance improvements. Data is collected from more than 1000 writers with different backgrounds, genders and ages. Annotation and verification tools are developed to facilitate the annotation and verification phases. We built an elementary recognition system to test our database and show the existing difficulties when handling a large vocabulary and dealing with large amounts of styles variations in the collected data.

연구 동기 및 목표

• 대규모로 공개 가능한 아랍어 온라인 필기 데이터베이스에서 어휘 커버리지가 넓고 글쓰는 스타일이 다양하도록 하는 데에 초점을 맞춘다.
• 실제 세계의 필기 샘플을 광범위하게 제공하여 저자에 독립적인 인식 시스템 개발을 지원한다.
• 문장 수준의 데이터를 제공함으로써 고수준 언어 모델(예: n-그램 언어 모델)의 사용을 가능하게 하여 문맥 기반 해석을 가능하게 한다.
• 아랍어 필기 인식을 위한 표준화된 벤치마크 데이터베이스를 제공함으로써 다양한 시스템 간 공정한 비교를 가능하게 한다.
• 대규모 어휘와 문맥 인식 기능을 지원하는 자원을 통해 제약 없는 아랍어 필기 인식 분야의 연구를 진전시킨다.

제안 방법

• 다양한 아랍어 텍스트 코퍼스에서 데이터베이스를 구축하여 광범위한 어휘 커버리지를 확보하였으며, 아랍어 어형의 98%를 포함한다(paws).
• 연령, 성별, 교육 수준이 다양한 1,000명의 글쓰는 이들이 샘플을 기여하여 필기 스타일의 높은 다양성을 확보하였다.
• 데이터는 문장, 단어, 문자 수준에서 제공되어 다중 수준 평가 및 모델링이 가능하다.
• 보조 데이터셋인 AltecOnDB Set-H는 각 글쓰는 이별로 고용량의 데이터를 제공하여 글쓰는 이 적응 및 글쓰는 이에 의존하는 시스템 훈련에 활용된다.
• 이중 단계 인식 시스템을 적용하였으며, 첫 번째 단계는 이-그램 언어 모델과 단일 자모 HMM을 사용하고, 두 번째 단계에서는 700MB 뉴스 코퍼스를 사용한 5-그램 언어 모델을 활용해 재평가하였다.
• 언어 모델은 SRI 툴킷을 사용하여 기본 설정으로 구축되었으며, 단어 라티스를 활용하여 다수의 가설을 탐색함으로써 정확도를 향상시켰다.

실험 결과

연구 질문

• RQ1 문장 수준의 데이터를 포함한 대규모 공개 아랍어 온라인 필기 데이터베이스는 문맥 모델링을 통해 인식 성능을 향상시킬 수 있는가?
• RQ2 어휘 크기를 늘릴수록 제약 없는 아랍어 필기 인식 시스템의 정확도에 어떤 영향을 미치는가?
• RQ3 HMM 기반 시스템과 결합할 때 고수준 언어 모델(예: 5-그램)이 정확도 향상에 얼마나 기여하는가?
• RQ4 AltecOnDB Set-H와 같은 고용량의 글쓰는 이별 데이터셋을 활용해 글쓰는 이 적응 기술을 효과적으로 적용할 수 있는가?
• RQ5 기존 시스템의 성능은 AltecOnDB와 같은 표준화된 대규모 어휘 아랍어 데이터베이스에서 어떻게 평가되는가?

주요 결과

• 언어 모델링 없이 64,000단어 어휘 사전을 사용한 결과 정확도는 단지 34.30%에 그쳤으며, 아랍어에서 대규모 어휘 사전이 초래하는 과제를 드러냈다.
• 5-그램 언어 모델을 사용한 이중 단계 인식 시스템을 적용하여 AltecOnDB Set-H에서 정확도가 51.65%로 향상되었으며, 언어적 문맥의 가치를 입증하였다.
• 문장 수준의 데이터를 활용함으로써 고수준 언어 모델의 효과적인 적용이 가능하여 고립된 단어 인식 대비 오류율을 크게 감소시켰다.
• 어휘 크기가 증가할수록 성능 저하가 관찰되었으며, 어휘 수가 5,000개일 땐 66.83%에서 64,000개일 땐 34.30%로 떨어지며 강력한 언어 모델링의 필요성을 시사하였다.
• 이 데이터베이스는 저자에 독립적 및 저자 적응형 시스템 개발을 모두 지원하며, AltecOnDB Set-H는 고정밀도 개인 맞춤형 모델 개발을 가능하게 한다.
• AltecOnDB는 아랍어 필기 인식을 위한 종합적인 벤치마크를 제공하며, 이전 데이터베이스의 주요 한계인 작은 어휘 크기, 제한된 글쓰는 이 수, 문장 수준 데이터 부족 문제를 해결한다.