[논문 리뷰] An Unsupervised method for OCR Post-Correction and Spelling Normalisation for Finnish

Quan Duong, Mika Hämäläinen외 1명|arXiv (Cornell University)|2020. 11. 06.

Natural Language Processing Techniques참고 문헌 37인용 수 12

한 줄 요약

이 논문은 자동 문서 인식(OCR) 후처리 및 철자 정규화를 위한 완전히 비지도(character-level) 신경 기계 번역(NMT) 접근법을 제안한다. 페 Finnish어에 특화된 자기지도 오류 생성기와 맥락 인식 Transformer 모델을 활용하여, 수작업 레이블이 없는 저품질 텍스트에서 기준 OCR 대비 최대 3.92%p의 정확도 향상을 달성했으며, 수작업 애너테이션 없이도 형태학적으로 복잡한 역사적 핀란드어 텍스트를 효과적으로 수정한다.

ABSTRACT

Historical corpora are known to contain errors introduced by OCR (optical character recognition) methods used in the digitization process, often said to be degrading the performance of NLP systems. Correcting these errors manually is a time-consuming process and a great part of the automatic approaches have been relying on rules or supervised machine learning. We build on previous work on fully automatic unsupervised extraction of parallel data to train a character-based sequence-to-sequence NMT (neural machine translation) model to conduct OCR error correction designed for English, and adapt it to Finnish by proposing solutions that take the rich morphology of the language into account. Our new method shows increased performance while remaining fully unsupervised, with the added benefit of spelling normalisation. The source code and models are available on GitHub and Zenodo.

연구 동기 및 목표

• 기형적인 형태학적 특성과 애너테이션 데이터 부족으로 인해 NLP 응용이 어려운 역사적 핀란드어 자료에서 저품질 OCR 문제를 해결하기 위함.
• 수작업으로 애너레이트된 병렬 데이터에 의존하지 않는 완전히 비지도 방법을 개발하여 OCR 오류를 수정하고 철자를 정규화하기 위함.
• 형태학적 인식과 맥락 정보를 통합하여 핀란드어에 특화된 문자 수준 NMT를 적용하기 위함.
• 실제 저품질 및 역사적으로 디지털화된 텍스트를 포함한 다양한 오차율을 가진 OCR 출력물에 대해 모델을 평가하기 위함.
• 이를 바탕으로 유랄릭어군 및 자원이 적고 형태학적으로 복잡한 언어로의 일반화 가능성을 확보하기 위함.

제안 방법

• 자기지도 오류 생성기가 형태학적 유한상태변환기(FST)를 사용하여 청소된 핀란드어 텍스트에 인위적 OCR 오류를 삽입함으로써 인공 병렬 데이터를 생성한다.
• 노이즈가 섞인 OCR 텍스트를 청소된 텍스트로 매핑하는 데 목적이 있는 문자 수준의 시퀀스-투-시퀀스 Transformer 아키텍처를 사용하며, 국소적 맥락 이해를 향상시키기 위해 맥락 윈도우 기반 처리를 적용한다.
• 두 가지 설정을 평가: 훈련 세트에서 학습된 오류 패턴을 사용하는 (Train) 방식과 무작위 오류 삽입 방식(Rand)을 각각 사용하며, 윈도우 크기는 1, 3, 5로 설정한다.
• 사전에 확보된 핀란드어 형태학적 FST와 청소된 어휘 목록을 활용하여 어휘 정합성 검증 및 후처리 단계에서 비어 있는 단어를 걸러내는 데 사용한다.
• 모델은 인공 병렬 데이터를 기반으로 엔드 투 엔드로 훈련되며, 타겟 OCR 분포에 맞게 파인튜닝되어 일반화 성능을 향상시킨다.
• 평가에는 기준 테스트 세트를 사용하며, 세 가지 OCR 출력물(Tesseract[고품질], OLD[저품질], FR11[매우 저품질])에 대해 정확도, 오류 수정 비율, 오류 수정 오류 비율을 측정한다.

실험 결과

연구 질문

• RQ1 수작업 애너테이션 데이터 없이도 완전히 비지도 방법이 핀란드어에서 의미 있는 OCR 후처리 성능 향상을 달성할 수 있는가?
• RQ2 형태학적 지식과 맥락 윈도우 기반 처리를 통합했을 때, 문자 수준 NMT의 OCR 보정 성능에 어떤 영향을 미치는가?
• RQ3 자기지도 오류 생성기를 사용한 모델이 NATAS와 같은 기존 비지도 기반 기준보다 형태학적으로 복잡한 언어에서 더 우수한 성능을 내는가?
• RQ4 이미 정확하게 OCR 처리된 단어에 대해 잘못된 수정을 최소화하면서도 저품질 OCR 출력물의 오류를 얼마나 잘 수정할 수 있는가?
• RQ5 이 방법은 다른 유랄릭어군 및 자원이 적고 형태학적으로 복잡한 언어로 일반화될 수 있는가?

주요 결과

• TFTrainW5 모델은 OLD OCR 설정에서 기준값 75.25%에서 79.17%로 3.92%p의 정확도 향상을 기록하여 모든 설정 중 최고 성능을 보였다.
• FR11 OCR 설정(79% 정확도)에서 TFTrainW3 모델은 정확도를 3.71%p 향상시켰으며, 오류 단어의 45.17%를 수정했고, 정확한 단어에 대해선 오직 6.7%만 잘못 수정했다.
• TFTrainW5 모델은 OLD 설정에서 오류 단어의 38.04%를 수정했고, 정확히 OCR 처리된 단어에 대해선 93.30%의 정확도를 유지하여 뛰어난 강건성을 입증했다.
• 저품질 입력에 대해서는 Tesseract OCR 기준보다 유의미하게 뛰어난 성능을 보였지만, 고품질 Tesseract 출력에서는 오류 도입이 수정보다 더 많아 성능이 떨어졌다.
• 훈련된 오류 생성기(Train)를 사용한 경우 랜덤 오류 삽입(Rand)보다 항상 뛰어난 성능을 보였으며, 더 큰 맥락 윈도우(W3, W5)가 W1보다 더 우수한 결과를 얻었다.
• 저품질 데이터에서 기준 OCR 대비 10–12%p의 정확도 절대 향상을 달성하여 실제 후처리 환경에서 매우 효과적인 성능을 입증했다.