[論文レビュー] Leveraging Text Repetitions and Denoising Autoencoders in OCR Post-correction

Kai Hakala, Aleksi Vesanto+3 more|arXiv (Cornell University)|Jun 26, 2019

Handwritten Text Recognition Techniques参考文献 17被引用数 5

ひとこと要約

本稿では、大規模なOCRコーパス内のテキスト繰り返しを活用して現実的な誤り分布を推定し、手動アノテーションを伴わずに合成学習データを生成する、OCR後処理のための新規手法を提案する。この現実的なノイズを用いて文字レベルのseq2seqモデルを学習することで、一様ノイズベースラインを著しく上回り、ゴールスタンダード性能に近づく。元のOCRより12.38ppのWER低減を達成した。

ABSTRACT

A common approach for improving OCR quality is a post-processing step based on models correcting misdetected characters and tokens. These models are typically trained on aligned pairs of OCR read text and their manually corrected counterparts. In this paper we show that the requirement of manually corrected training data can be alleviated by estimating the OCR errors from repeating text spans found in large OCR read text corpora and generating synthetic training examples following this error distribution. We use the generated data for training a character-level neural seq2seq model and evaluate the performance of the suggested model on a manually corrected corpus of Finnish newspapers mostly from the 19th century. The results show that a clear improvement over the underlying OCR system as well as previously suggested models utilizing uniformly generated noise can be achieved.

研究の動機と目的

• 大規模なテキスト繰り返しを用いて、実際のOCR誤りパターンを推定することで、手動で修正されたOCR学習データへの依存を低減すること。
• 対応する繰り返しテキストスパンの整列から導出された文字レベルの置換分布を用いて、実際のOCR誤りを模倣する合成データ生成手法を開発すること。
• この合成データ上で文字レベルのシーケンス・ツー・シーケンスニューラルモデルを学習し、一様ノイズおよびゴールスタンダードベースラインとその性能を評価すること。
• ターゲットデータと類似した言語的スタイルおよび時代背景を持つコーパスからの学習データが、モデル性能に重要であるかどうかを調査すること。
• 一対多文字置換を含む複雑なOCR誤りを処理できるように、この手法を拡張可能かどうかを検討すること。

提案手法

• 大規模なOCR処理済み新聞コーパス内でテキスト繰り返しを特定し、文字レベルで整列させ、誤りパターンを推定する。
• 繰り返しスパン間の差異から文字置換分布を計算し、's' → 'f' や 'b' → 'd' といった体系的なOCR誤りを捉える。
• GutenbergおよびKotusの並列コーパスからのクリーンテキストに、経験的に導出された誤り分布を適用して、合成学習データを生成する。
• 文字レベルのシーケンス・ツー・シーケンスニューラルモデルを、人工的に汚染されたテキストを復元するように学習させ、OCR誤りを是正する能力を習得させる。
• 手動で修正されたフィンランド語新聞テキストのホールドアウトテストセットを用いて、文字誤り率（CER）および語誤り率（WER）でモデルを評価する。
• 一様に生成されたノイズで学習したモデルおよび手動で修正されたデータで学習したゴールスタンダードモデルと比較する。

実験結果

リサーチクエスチョン

• RQ1 大規模OCRコーパス内のテキスト繰り返しを用いて、OCRシステムの真の誤り分布を信頼性高く推定できるか？
• RQ2 経験的に導出された誤り分布から生成された合成データで学習したノイズ除去オートエンコーダーは、一様に生成されたノイズで学習した場合に比べて性能が優れているか？
• RQ3 ターゲットデータが同じ時代背景だが異なるジャンルである場合、クリーンな事前学習コーパスの選択（例：Gutenberg対Kotus）がモデル性能に与える影響は何か？
• RQ4 繰り返しから得た合成データで学習したモデルは、手動で修正されたデータで学習したモデルの性能に近づけるか？
• RQ5 現在の合成データ生成法が、一対多文字置換のような複雑なOCR誤りを捉える際に抱える制限は何か？

主な発見

• 現実的な誤り分布を用いて合成データで学習したモデル（GUT-REAL）は23.24%の語誤り率（WER）を達成し、一様ノイズベースライン（GUT-UNI、25.35% WER）を著しく上回った。
• Kotusコーパスからの合成データで学習したモデル（KOT-REAL）は23.45%のWERを達成し、コーパスジャンルの類似性よりも時代的および言語的整合性の重要性が示された。
• ゴールスタンダードモデルはWERを16.76%に低下させ、元のOCRシステム（29.14% WER）と比較して12.38ポイントの改善を達成した。これは、合成データと手動データの間のギャップを示している。
• Gutenbergからの合成データで学習したモデルは、文全体に適用した際、元のOCRより6.17ppのWER低減を達成した。これは文脈に依存した是正の可能性を示唆している。
• ゴールスタンダードデータで学習したモデルは文全体に対しては性能が著しく低下した（23.40ppのWER低下）。これは、より大きな文脈を扱うには、はるかに多くのデータやアーキテクチャの適合が必要であることを示している。
• 本研究は、テキスト繰り返しに基づく誤り推定が、高品質な合成データ生成を可能にし、有効なOCR後処理のための手動アノテーションの必要性を低減できることを結論づけた。