[論文レビュー] An Unsupervised method for OCR Post-Correction and Spelling Normalisation for Finnish

Quan Duong, Mika Hämäläinen+1 more|arXiv (Cornell University)|Nov 6, 2020

Natural Language Processing Techniques参考文献 37被引用数 12

ひとこと要約

本稿では、自己教師あり誤り生成器と文脈に配慮したTransformerモデルを活用して、完全に教師なしの文字レベルニューラル機械翻訳（NMT）アプローチを提案する。このアプローチは、フィンランド語のOCR後処理および綴り正規化に用いられ、低品質なテキストにおいてベースラインOCR比で最大3.92%の絶対的精度向上を達成しており、手動アノテーションを一切用いずに、語形に複雑な歴史的フィンランド語の誤りを効果的に是正する。

ABSTRACT

Historical corpora are known to contain errors introduced by OCR (optical character recognition) methods used in the digitization process, often said to be degrading the performance of NLP systems. Correcting these errors manually is a time-consuming process and a great part of the automatic approaches have been relying on rules or supervised machine learning. We build on previous work on fully automatic unsupervised extraction of parallel data to train a character-based sequence-to-sequence NMT (neural machine translation) model to conduct OCR error correction designed for English, and adapt it to Finnish by proposing solutions that take the rich morphology of the language into account. Our new method shows increased performance while remaining fully unsupervised, with the added benefit of spelling normalisation. The source code and models are available on GitHub and Zenodo.

研究の動機と目的

• 歴史的フィンランド語コーパスにおける低品質OCRの課題に対処すること。語形の複雑さとアノテート済みデータの不足がNLP応用を妨えている。
• 手動でアノテートされた平行データに依存しない完全に教師なしの方法を開発し、OCR誤りの是正と綴り正規化を実現すること。
• 語形認識と文脈情報を統合することで、フィンランド語に特化した文字レベルNMTを適応させること。
• 誤り率が異なる実世界のOCR出力（低品質および歴史的デジタル化テキストを含む）に対して、この手法を評価すること。
• この手法が、他のウロ・アルタイ語族および低リソースで語形に複雑な言語へも一般化可能かどうかを検証すること。

提案手法

• 自己教師あり誤り生成器が、語形有限状態トランスダーサー（FST）を用いて、綺麗なフィンランド語テキストに合成的なOCR誤りを挿入することで、人工的な平行データを生成する。
• モデルは、ノイズの多いOCR出力を綺麗なテキストにマッピングする文字レベルのエンコーダー・デコーダー構造のTransformerアーキテクチャを採用し、局所的な文脈理解を向上させるために文脈ウィンドウを導入する。
• 2つの設定を評価：ランダムな誤り挿入（Rand）と、トレーニングセットから学習した誤りパターンを用いる（Train）。ウィンドウサイズは1、3、5を検討。
• 事前に用意されたフィンランド語語形FSTと綺麗な語彙リストを活用し、後処理段階で語の正しさを検証し、非語彙語（非語）を除外する。
• モデルは合成平行データ上でエンドツーエンドで訓練され、一般化性能を向上させるために、ターゲットOCR分布でファインチューニングされる。
• 評価にはゴールドスタンダードテストセットを用い、3つのOCR出力（Tesseract：高品質、OLD：低品質、FR11：非常に低品質）に対して、精度、誤り是正率、誤った是正率を測定する。

実験結果

リサーチクエスチョン

• RQ1 手動アノテートデータを一切使用しない完全に教師なしの手法が、フィンランド語において顕著なOCR後処理の向上を達成できるか？
• RQ2 語形知識と文脈ウィンドウの導入が、OCR是正における文字レベルNMTの性能にどのように影響を与えるか？
• RQ3 自己教師あり誤り生成器を用いることで、NATASのような既存の教師なしベースラインを上回る性能を達成できるか？特に語形に複雑な言語において。
• RQ4 誤りの多い低品質OCR出力に対して、誤りを是正しつつ、すでに正しい語に対して誤った是正を最小限に抑えることができるか？
• RQ5 この手法は、他のウロ・アルタイ語族および低リソースで語形に複雑な言語へ一般化可能か？

主な発見

• TFTrainW5モデルは、OLD OCR設定（75.25%から79.17%）で最大3.92%の精度向上を達成し、他のすべての設定を上回った。
• FR11 OCR設定（79%精度）では、TFTrainW3モデルが3.71%の精度向上を達成し、誤り語の45.17%を是正した一方で、正しい語のうち6.7%しか誤って変更しなかった。
• TFTrainW5モデルは、OLD設定で誤り語の38.04%を是正し、正しくOCRされた語の精度を93.30%に維持しており、高い耐障害性を示した。
• 低品質入力ではTesseract OCRベースラインを著しく上回ったが、高品質なTesseract出力では上回ることはできず、誤りの導入が是正を上回った。
• トレーニング済み誤り生成器（Train）を用いることで、ランダム誤り挿入（Rand）を常に上回り、より大きな文脈ウィンドウ（W3, W5）がW1よりも優れた結果をもたらした。
• 低品質データにおいて、ベースラインOCR比で10–12%の絶対的精度向上を達成し、実世界の後処理シナリオにおいて顕著な有効性を示した。