[論文レビュー] Upcycle Your OCR: Reusing OCRs for Post-OCR Text Correction in Romanised Sanskrit

Amrith Krishna, Bodhisattwa Prasad Majumder+2 more|arXiv (Cornell University)|Sep 6, 2018

Natural Language Processing Techniques参考文献 32被引用数 4

ひとこと要約

本稿では、ローマ字表記サンスクリットのためのポストOCRテキスト補正モデルを提案する。このモデルは、事前学習済みOCRシステムを再利用し、コピーメカニズムを備えた系列対系列モデル（CopyNet）を用いてOCR誤りを補正する。先行する最先端モデルよりも7.69%高い文字認識率（CRR）を達成し、OCR出力のCRRを35.76%から87.01%まで向上させ、人的評価では本モデルによる補正がより高速かつ正確であることが示された。

ABSTRACT

We propose a post-OCR text correction approach for digitising texts in Romanised Sanskrit. Owing to the lack of resources our approach uses OCR models trained for other languages written in Roman. Currently, there exists no dataset available for Romanised Sanskrit OCR. So, we bootstrap a dataset of 430 images, scanned in two different settings and their corresponding ground truth. For training, we synthetically generate training images for both the settings. We find that the use of copying mechanism (Gu et al., 2016) yields a percentage increase of 7.69 in Character Recognition Rate (CRR) than the current state of the art model in solving monotone sequence-to-sequence tasks (Schnober et al., 2016). We find that our system is robust in combating OCR-prone errors, as it obtains a CRR of 87.01% from an OCR output with CRR of 35.76% for one of the dataset settings. A human judgment survey performed on the models shows that our proposed model results in predictions which are faster to comprehend and faster to improve for a human than the other systems.

研究の動機と目的

• ローマ字表記サンスクリット用の利用可能なデータセットやOCRシステムの不足に応じて、他のローマ字アルファベット言語で学習された既存のOCRモデルを再利用するポストOCR補正フレームワークを提案すること。
• スキャン品質の悪さや書記体系固有の課題により、ローマ字表記サンスクリットテキストのOCR出力に高い誤り率が生じる問題を改善し、その耐性と正確性を高めること。
• モノトーンの系列補正タスクにおいて、コピーメカニズムを備えた系列対系列モデルが、ローマ字表記サンスクリットのような低リソース言語で、従来の系列ラベル付けモデルを上回るかを検証すること。
• 現実のスキャン歪みを再現するリアルな歪みを加えた合成データ生成が、大規模なアノテート済みデータセットを必要とせずに、実世界のOCR誤り補正用モデルの学習に効果的に利用できるかを示すこと。
• 人的評価を通じてモデルの実用的有用性を検証し、モデルの予測結果に対する人間のアノテーターによる補正速度と正確性を測定すること。

提案手法

• 提案モデルは、アテンション機構とコピーメカニズム（CopyNet）を備えた系列対系列アーキテクチャを用い、未分割のローマ字表記サンスクリットテキストにおけるOCR誤りを補正する。
• 合成学習画像は、デジタル化されたサンスクリットテキストを用いて生成され、ノイズ、ぼかし、エロージョンなどの制御された歪みを加え、2つの異なる設定からの実際のスキャン変動を模倣する。
• モデルは、DPI、コントラスト、テキストライン品質の変動を含む、スキャン原紙の視覚的特徴を模倣する合成データで学習される。
• コピーメカニズムにより、入力されたOCR出力の正しい文字を保持でき、類似する字形が誤認識されるリスクを低減する。
• モデルは2つの実際のテストセットで評価される：高品質スキャンから得たものと、低品質スキャン（60 DPI）から得たもので、劣悪な条件下でのOCR耐性を模擬する。
• 人的評価スタディーでは、45のテスト文字列の匿名化された予測を用いて、OCR出力、CRFベースのモデル（PCRF）、および提案されたCopyNetモデルの補正速度と正確性を比較する。

実験結果

リサーチクエスチョン

• RQ1 コピーメカニズムを備えた系列対系列モデルは、ローマ字表記サンスクリットのOCR誤り補正において、従来の系列ラベル付けモデルを上回ることができるか？
• RQ2 リアルな歪みを加えた合成データは、低リソース言語向けのポストOCR補正モデルの耐性をどの程度向上させることができるか？
• RQ3 提案モデルは、ローマ字表記サンスクリットテキストの低品質スキャンに対して、商用OCRシステム（例：Google Cloud Vision）と比較してどの程度の性能を示すか？
• RQ4 提案モデルの出力は、ベースラインシステムと比較して、人間にとってより理解しやすく、補正が容易になるか？
• RQ5 再トレーニングなしに、異なる手書き様式やOCR品質レベルに対してもモデルが一般化できるか？

主な発見

• 提案されたCopyNetモデルは、ローマ字表記サンスクリットのポストOCR補正タスクにおいて、先行する最先端モデル（Schnober et al., 2016）よりも7.69%高い文字認識率（CRR）を達成した。
• 低品質スキャン環境（60 DPI）において、初期CRRが35.76%のOCR出力を、87.01%まで向上させ、OCR誤りに対する強い耐性を示した。
• 人的評価では、参加者がCopyNetの予測から平均4.44／5の文を補正できたのに対し、PCRFモデルでは3.56、OCR出力では3.11にとどまった。
• 補正時間はCopyNetが1文字列あたり81.4秒と著しく短く、PCRF（106.6秒）やOCR（127.6秒）よりも高速で、実用性が高かった。
• 10種類のランダムなノイズ設定を用いた一般化された設定では、CRRが89.02%を達成し、キュレートされたテストセットで報告された89.65%に非常に近い値を示した。
• CRRが極めて低い（最低で36%）OCR出力に対しても、モデルは強い耐性を示し、重度のOCR劣化に対しても安定した性能を発揮した。