[論文レビュー] A BLSTM Network for Printed Bengali OCR System with High Accuracy

Debabrata Paul, B.B. Chaudhuri|arXiv (Cornell University)|Aug 23, 2019

Handwritten Text Recognition Techniques参考文献 23被引用数 5

ひとこと要約

この論文では、印刷体バングラ語および英語の文字認識のための単層のBLSTM-CTCニューラルネットワークを提案し、20種類のバングラ語フォントで文字レベル99.32%、語彙レベル96.65%の精度を達成した。システムはセグメンテーションを伴わず、全テキストラインを処理し、47,720行のデータでCTCを用いたエンド・ツー・エンド学習が可能であり、GoogleのドライブベースOCRよりも精度が高く、特にアサイア語文字におけるクロススクリプトの誤認識を回避した。

ABSTRACT

This paper presents a printed Bengali and English text OCR system developed by us using a single hidden BLSTM-CTC architecture having 128 units. Here, we did not use any peephole connection and dropout in the BLSTM, which helped us in getting better accuracy. This architecture was trained by 47,720 text lines that include English words also. When tested over 20 different Bengali fonts, it has produced character level accuracy of 99.32% and word level accuracy of 96.65%. A good Indic multi script OCR system is also developed by Google. It sometimes recognizes a character of Bengali into the same character of a non-Bengali script, especially Assamese, which has no distinction from Bengali, except for a few characters. For example, Bengali character for 'RA' is sometimes recognized as that of Assamese, mainly in conjunct consonant forms. Our OCR is free from such errors. This OCR system is available online at https://banglaocr.nltr.org

研究の動機と目的

• 従来のOCRパイプラインで一般的なセグメンテーションエラーを回避する高精度でエンド・ツー・エンドの印刷体バングラ語および英語OCRシステムの開発。
• Tesseract や Google のドライブベースOCRのような既存システムの限界、特に視覚的に類似するためバングラ語文字がアサイア語文字として誤分類されやすい問題の解消。
• クラウドベースのAPIに依存せず、アプリケーションに統合可能なスタンドアロンでアクセス可能なOCRシステムの構築。
• 47,720行の比較的小さなトレーニングデータセット上で、浅いBLSTM-CTCアーキテクチャの性能を評価すること。
• バングラ文字のフォント変動および文書劣化に対する耐性を高めること。

提案手法

• 128個の隠れユニットを備えた単一層の双方向LSTM（BLSTM）ネットワークを用いてシーケンスモデリングを行い、1行あたり1×48ピクセルのグレースケール画像ストリップを処理する。
• エンド・ツー・エンド学習を可能にするために、BLSTMに接続主義的時系列分類（CTC）層を組み合わせる。これにより、語または文字レベルでの明示的なアライメントが不要となる。
• 入力特徴量は48ピクセルの高さに正規化され、最大80エポックでバッチサイズ1で学習が行われる。
• 連続するエポック間でCTC損失と検証誤差の変化がそれぞれ≤0.01および≤0.1に収束した時点で学習を停止する。
• 最小編集距離（MED）を用いて、ホールドアウトされたテストセット上で文字レベルおよび語彙レベルの精度を評価する。
• Tesseract 4.0およびGoogleドライブベースOCR（GDS）と比較して、MEDに基づく精度指標を用いて性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 単一層のBLSTM-CTCアーキテクチャは、語または文字のセグメンテーションを必要とせずに、印刷体バングラ語および英語の文字認識で高い精度を達成できるか？
• RQ2 軽量なBLSTM-CTCモデルの性能は、GoogleのドライブベースOCRやTesseract 4.0といった最先端システムと比較して、バングラ文字でどの程度優れているか？
• RQ3 提案されたシステムは、特に複合形において、バングラ語の文字がアサイア語文字として誤認識されるのをどの程度回避できるか？
• RQ4 BLSTMアーキテクチャにピーチポケット接続やドロップアウトを導入しないことで、限られたトレーニングデータセット上での一般化性能と精度が向上するか？
• RQ5 スタンドアロンでオープンアクセス可能なOCRシステムは、クラウドベースのシステムを上回る精度を達成できるか、同時にローカルアプリケーションにデプロイ可能か？

主な発見

• 提案されたBLSTM-CTCシステムは、20種類のバングラ語フォントで文字レベル99.32%、語彙レベル96.65%の精度を達成し、Tesseract 4.0（文字精度91.79%、語彙精度76.31%）およびGoogleのドライブベースOCR（文字精度98.54%、語彙精度92.86%）を上回った。
• システムはクロススクリプトの誤認識を完全に回避しており、特にGoogleのOCRシステムで知られているバングラ語「RA」をアサイア語として誤認識する問題が発生しなかった。
• 128個の隠れユニットと48エポックで学習したモデルが最小の検証誤差を示し、与えられたデータサイズにおける最適なパフォーマンスを示した。
• 47,720行のトレーニングラインしか使用しなかったにもかかわらず、高い精度が達成されたことから、BLSTM-CTCアーキテクチャが中程度のデータセットでも効果的であることが示された。
• システムは余分なダンド（文末記号）を生成しないという点で、GoogleのOCR出力で観察された問題を回避した。
• 完全に動作するシステムは https://banglaocr.nltr.org で公開されており、スタンドアロンでのデプロイや大規模なアプリケーションへの統合が可能である。