[論文レビュー] AltecOnDB: A Large-Vocabulary Arabic Online Handwriting Recognition Database

Ibrahim Abdelaziz, Sherif Abdou|arXiv (Cornell University)|Dec 24, 2014

Handwritten Text Recognition Techniques参考文献 20被引用数 17

ひとこと要約

本稿では、1,000名の多様な筆者を含み、文、語、文字のレベルをカバーする大規模語彙のアラビア語オンライン手書き認識データベース、AltecOnDBを紹介する。文脈モデリングの向上を図るため、5-gram言語モデルを用いた二段階処理システムにより、51.65%の認識精度を達成した。言語モデリングなしのベースライン（34.30%）と比較して顕著な向上が確認され、複雑な script における高レベルの言語的文脈の価値が示された。

ABSTRACT

Arabic is a semitic language characterized by a complex and rich morphology. The exceptional degree of ambiguity in the writing system, the rich morphology, and the highly complex word formation process of roots and patterns all contribute to making computational approaches to Arabic very challenging. As a result, a practical handwriting recognition system should support large vocabulary to provide a high coverage and use the context information for disambiguation. Several research efforts have been devoted for building online Arabic handwriting recognition systems. Most of these methods are either using their small private test data sets or a standard database with limited lexicon and coverage. A large scale handwriting database is an essential resource that can advance the research of online handwriting recognition. Currently, there is no online Arabic handwriting database with large lexicon, high coverage, large number of writers and training/testing data. In this paper, we introduce AltecOnDB, a large scale online Arabic handwriting database. AltecOnDB has 98% coverage of all the possible PAWS of the Arabic language. The collected samples are complete sentences that include digits and punctuation marks. The collected data is available on sentence, word and character levels, hence, high-level linguistic models can be used for performance improvements. Data is collected from more than 1000 writers with different backgrounds, genders and ages. Annotation and verification tools are developed to facilitate the annotation and verification phases. We built an elementary recognition system to test our database and show the existing difficulties when handling a large vocabulary and dealing with large amounts of styles variations in the collected data.

研究の動機と目的

• 大規模で公開可能なアラビア語オンライン手書きデータベースが、広範な語彙カバレッジと多様な筆記スタイルを備えているという不足を補う。
• 実世界の手書きサンプルを多数提供することで、耐障害性の高い筆者独立型認識システムの開発を支援する。
• 文レベルのデータを提供することで、高レベルの言語モデル（例：n-gram言語モデル）の使用を可能にし、文脈による誤り訂正を実現する。
• アラビア語手書き認識のための標準化されたベンチマークデータベースを提供することで、システム間の公平な比較を促進する。
• 大語彙・文脈に配慮した認識を可能にするリソースを提供することで、制約のないアラビア語手書き認識分野の研究を前進させる。

提案手法

• 語彙カバレッジを広く確保するため、多様なアラビア語テキストコーパスからデータベースを構築した。これには、アラビア語語形の98%（paws）が含まれた。
• 年齢、性別、教育水準にばらつきのある1,000名の筆者がデータを提供し、筆記スタイルの多様性を確保した。
• データは文、語、文字の3レベルで提供され、マルチレベルの評価とモデリングが可能になった。
• 補助データセットであるAltecOnDB Set-Hは、筆者適応や筆者依存型システムの学習に適した、筆者ごとの高ボリュームデータを提供する。
• 二段階処理認識システムを採用した。まず、bi-gram言語モデルとモノグラムHMMを用いて処理し、次に700 MBのニュースコーパスを用いた5-gram言語モデルで再スコアリングを行った。
• 言語モデルはSRIツールキットを用いてデフォルトパラメータで構築され、語ラティスを用いることで複数の仮説を探索し、認識精度の向上を図った。

実験結果

リサーチクエスチョン

• RQ1 文レベルのデータを備えた大規模で公開可能なアラビア語オンライン手書きデータベースは、文脈モデリングを活用することで認識性能を向上させることができるか？
• RQ2 語彙サイズの拡大が、制約のないアラビア語手書き認識システムにおける認識精度に与える影響は何か？
• RQ3 HMMベースのシステムと組み合わせた場合、高レベルの言語モデル（例：5-gram）が認識精度をどの程度向上させられるか？
• RQ4 AltecOnDB Set-Hのような筆者ごとの高ボリュームデータセットを用いて、筆者適応技術を効果的に適用できるか？
• RQ5 既存のシステムは、AltecOnDBのような標準化された大語彙アラビア語データベース上で、どの程度の性能を示すか？

主な発見

• 言語モデリングなしで64,000語の語彙辞書を用いた場合、認識精度はわずか34.30%にとどまり、アラビア語における大規模語彙の課題が浮き彫りになった。
• 5-gram言語モデルを用いた二段階処理システムにより、AltecOnDB Set-Hでは認識精度が51.65%まで向上した。言語的文脈の価値が明確に示された。
• 文レベルのデータの利用により、高レベルの言語モデルの有効な適用が可能になり、孤立した語認識と比較して誤り率が顕著に低下した。
• 語彙サイズの増大に伴い性能低下が観察され、語彙数が5,000語のときの66.83%から64,000語のときの34.30%に低下した。これにより、強固な言語モデリングの必要性が示された。
• 本データベースは、筆者独立型と筆者適応型の両方のシステム開発を支援でき、AltecOnDB Set-Hにより高精度なパーソナライズドモデルの構築が可能になった。
• AltecOnDBは、語彙が限定され、筆者数が少ない、文レベルのデータが欠如している従来のデータベースの主な欠陥を解消する包括的なベンチマークを提供する。