[論文レビュー] Telugu OCR Framework using Deep Learning

Rakesh Achanta, Trevor Hastie|arXiv (Cornell University)|Sep 20, 2015

Handwritten Text Recognition Techniques参考文献 23被引用数 15

ひとこと要約

この論文は、テルグ文字のためのエンドツーエンドのディープラーニングフレームワークを提示する。テキスト分離には数学的モーフォロジーを、文字分類には深層畳み込みニューラルネットワーク（CNN）を、行抽出には3次のマルコフ連鎖言語モデルを用いる。テルグ文字は構造的に複雑な接続型アラファシラベットであり、このフレームワークは、先進的なニューラルネットワーク技術と、主に訓練手法に関する統計的裏付けを統合することで、最先端の性能を達成する。

ABSTRACT

In this paper, we address the task of Optical Character Recognition(OCR) for the Telugu script. We present an end-to-end framework that segments the text image, classifies the characters and extracts lines using a language model. The segmentation is based on mathematical morphology. The classification module, which is the most challenging task of the three, is a deep convolutional neural network. The language is modelled as a third degree markov chain at the glyph level. Telugu script is a complex alphasyllabary and the language is agglutinative, making the problem hard. In this paper we apply the latest advances in neural networks to achieve state-of-the-art error rates. We also review convolutional neural networks in great detail and expound the statistical justification behind the many tricks needed to make Deep Learning work.

研究の動機と目的

• テルグ文字、つまり構造的に複雑で接続型のアルファベットであり、既存の解決策が限られているという課題に、光学的文字認識（OCR）の観点から対処すること。
• テキスト分離、文字分類、行レベルの言語モデル化を統合したエンドツーエンドのフレームワークを構築し、認識精度を向上させること。
• ディープラーニングの最新の進展を応用することで、文字列の構造的複雑さにもかかわらず、テルグOCRで最先端の誤り率を達成すること。
• 本フレームワークで用いられる主なディープラーニング技術（バッチ正規化やドロップアウトなど）の背後にある統計的根拠を明示すること。

提案手法

• テキスト分離は、数学的モーフォロジーを用いて、入力画像から個々のテキスト行や文字を分離する。
• 文字分類には深層畳み込みニューラルネットワーク（CNN）を採用し、テルグの字形が示す視覚的複雑さに対応できるようにアーキテクチャを設計した。
• グリフレベルで3次のマルコフ連鎖を用いて言語構造をモデル化し、シーケンスレベルでの認識精度を向上させる。
• 分離、分類、言語モデル化をエンドツーエンドのパイプラインとして統合し、全体的なOCR性能を向上させる。
• 著者らはCNNの包括的レビューを提供し、重み初期化や正則化といった一般的なディープラーニングの実践的技法について、統計的推論を用いて裏付けを示している。

実験結果

リサーチクエスチョン

• RQ1 テルグOCRの分離、分類、言語モデル化の各段階を処理できるエンドツーエンドのディープラーニングフレームワークをどのように設計できるか？
• RQ2 視覚的ばらつきが著しいテルグ文字に対しても、深層CNNが正確に分類する役割を果たすメカニズムは何か？
• RQ3 グリフレベルでの3次マルコフ連鎖は、行レベルでの認識精度を向上させるのにどの程度有効か？
• RQ4 主なディープラーニング技術の成功を支える統計的原則は何か？

主な発見

• 提案されたフレームワークは、ベンチマークデータセットにおいて、先行手法を上回る最先端の誤り率を達成した。
• 分離に数学的モーフォロジーを統合することで、ノイズが多いか低品質な画像からも、テキスト行や文字を安定して分離可能である。
• 深層CNNモジュールは、文字列の複雑さにもかかわらず、テルグの字形に対して優れた一般化性能を示し、複雑な空間パターンを効果的に捉えている。
• 3次マルコフ言語モデルは、隣接するグリフ間の文脈的依存関係を活用することで、認識精度を顕著に向上させた。
• ディープラーニング技術の統計的分析により、バッチ正規化やドロップアウトといった手法の成功に裏付けられる理論的基盤が得られ、学習の安定性とモデル性能が向上した。