[論文レビュー] A Hybrid NN/HMM Modeling Technique for Online Arabic Handwriting Recognition

Najiba Tagougui, Houcine Boubaker+2 more|arXiv (Cornell University)|Jan 2, 2014

Handwritten Text Recognition Techniques参考文献 17被引用数 24

ひとこと要約

本稿では、オンラインアラビア文字の手書き認識のためのハイブリッドニューラルネットワーク（NN）/隠れマルコフモデル（HMM）フレームワークを提示する。筆まえのセグメンテーションにはベータ楕円形戦略を用い、ストロークセグメントを抽出し、多層パーセプトロン（MLP）を用いて文字確率を計算し、その後HMMによってデコードする。本システムはADABデータベース上で96.4％の文字認識正答率を達成し、最先端の手法を著しく上回っている。

ABSTRACT

In this work we propose a hybrid NN/HMM model for online Arabic handwriting recognition. The proposed system is based on Hidden Markov Models (HMMs) and Multi Layer Perceptron Neural Networks (MLPNNs). The input signal is segmented to continuous strokes called segments based on the Beta-Elliptical strategy by inspecting the extremum points of the curvilinear velocity profile. A neural network trained with segment level contextual information is used to extract class character probabilities. The output of this network is decoded by HMMs to provide character level recognition. In evaluations on the ADAB database, we achieved 96.4% character recognition accuracy that is statistically significantly important in comparison with character recognition accuracies obtained from state-of-the-art online Arabic systems.8

研究の動機と目的

• ニューラルネットワークとHMMの長所を組み合わせることで、オンラインアラビア文字の手書き認識における認識正答率の向上を図ること。
• 曲線的スピードプロファイルに基づく極値点を用いて、動的入力から連続的な筆まえを特定する堅牢なセグメンテーション手法の開発。
• 多層パーセプトロン（MLP）を用いてセグメントレベルの文脈的情報を活用し、文字確率推定の精度を向上させること。
• ニューラルネットワークの出力をHMMデコーダーと統合することで、文字レベルの認識性能を向上させること。
• 標準ベンチマーク（ADABデータベース）上でシステムを評価し、既存手法よりも統計的に優れた性能を示すこと。

提案手法

• 入力信号は、曲線的スピードプロファイルにおける極値点に基づくベータ楕円形戦略を用いて、連続的な筆まえにセグメント化される。
• 多層パーセプトロン（MLP）は、文脈的情報を含むセグメントレベル特徴量を学習し、文字確率を予測する。
• MLPの出力はHMMベースのデコーダーに供給され、最も確率の高い文字列が特定される。
• システムは、動的時間ワープとHMMの状態遷移を用いて、手書きにおける時間的変動をモデル化する。
• 特徴抽出には、方向、曲率、速度などのストロークの空間的および時間的特性が含まれる。
• ハイブリッドアーキテクチャは、MLPのパターン認識能力とHMMの系列モデリング能力を統合する。

実験結果

リサーチクエスチョン

• RQ1 スタンドアロンモデルと比較して、ハイブリッドNN/HMMモデルはオンラインアラビア文字の手書き認識における文字認識正答率を向上させることができるか？
• RQ2 ベータ楕円形セグメンテーション戦略は、動的入力から意味のある手書き筆まえを効果的に分離できるか？
• RQ3 MLPによるセグメントレベルの文脈的情報の統合は、文字確率推定の精度をどの程度向上させるか？
• RQ4 MLP出力をHMMデコーダーと統合することで、統計的に有意な性能向上が得られるか？
• RQ5 本手法は、標準ベンチマーク上で最先端のオンラインアラビア文字の手書き認識システムと比較して、どのように評価されるか？

主な発見

• 提案されたハイブリッドNN/HMMモデルは、ADABデータベースで96.4％の文字認識正答率を達成した。
• この認識正答率は、最先端のオンラインアラビア文字の手書き認識システムのそれよりも統計的に有意に高い。
• ベータ楕円形セグメンテーション法は、曲線的スピードプロファイルにおける極値点を用いて、筆まえの境界を効果的に特定した。
• MLPにおけるセグメントレベルの文脈的情報の活用により、文字確率推定の信頼性が向上した。
• MLP出力とHMMデコーダーの統合により、系列レベルの認識性能が向上した。
• 本システムは、実世界のオンラインアラビア文字の手書きデータに対して、強力なロバスト性と一般化能力を示した。