[논문 리뷰] A Tool for Facilitating OCR Postediting in Historical Documents

Alberto Poncelas, Mohammad Aboomar외 3명|arXiv (Cornell University)|2020. 04. 23.

Handwritten Text Recognition Techniques참고 문헌 17인용 수 5

한 줄 요약

이 논문은 언어 모델 점수와 문자열 유사도를 활용하여 역사적 문서에서 흔한 OCR 오류를 자동으로 수정하는 후처리 도구를 제시한다. 18세기 문서에 대해 테스트한 결과, 도구는 63%의 오류를 수정했으며, 특히 'f'와 's'의 혼동 오류에 효과적이었고, 인간 검토를 위한 투명성도 유지했다.

ABSTRACT

Optical character recognition (OCR) for historical documents is a complex procedure subject to a unique set of material issues, including inconsistencies in typefaces and low quality scanning. Consequently, even the most sophisticated OCR engines produce errors. This paper reports on a tool built for postediting the output of Tesseract, more specifically for correcting common errors in digitized historical documents. The proposed tool suggests alternatives for word forms not found in a specified vocabulary. The assumed error is replaced by a presumably correct alternative in the post-edition based on the scores of a Language Model (LM). The tool is tested on a chapter of the book An Essay Towards Regulating the Trade and Employing the Poor of this Kingdom (Cary ,1719). As demonstrated below, the tool is successful in correcting a number of common errors. If sometimes unreliable, it is also transparent and subject to human intervention.

연구 동기 및 목표

• OCR로 처리된 역사적 문서의 수동 후처리 작업을 줄이기 위해 흔한 OCR 오류를 자동으로 수정하는 것.
• 1800년 이전 문서에서 관찰되는 열악한 인쇄 품질, 옛날 글꼴, 일관되지 않은 철자로 인한 OCR 정확도 저하 문제를 해결하는 것.
• 언어적 타당성과 맥락에 기반한 보정을 제안하는 투명한 인간-중심 시스템을 제공하는 것.
• OCR 오인식으로 인한 노이즈를 최소화하여 디지털화된 역사적 텍스트의 신뢰성과 이용 가능성을 향상시키는 것.
• 오픈소스 기반의 언어 모델 보강 보정을 사용하여 역사적 문서의 스케일링 가능하고 반복 가능한 후처리를 가능하게 하는 것.

제안 방법

• 사전에 정의된 어휘에 포함되지 않은 단어를 잠재적인 OCR 오류로 식별한다.
• 각 미인식 단어에 대해 문자열 유사도(예: 레벤슈타인 거리 등)를 사용하여 타당한 대체어 후보를 생성한다.
• 각 후보어는 훈련된 언어 모델을 활용해 문장 맥락 내에서 문법적 및 어휘적 타당성을 평가한다.
• 가장 높은 점수를 받은 후보어가 대체로 제안되며, 원본과 제안된 형태가 모두 유지되어 인간 검토를 위해 보존된다.
• 시스템은 PDF를 입력으로 받아 Tesseract OCR을 통해 텍스트를 추출하고, bash 스크립트 `ocr_and_postprocess.sh`를 사용해 후처리를 수행한다.
• 도구는 확장 가능하도록 설계되어 향후 자동 문자 오인식 탐지 및 시대별 언어 모델 통합이 가능하도록 설계되었다.

실험 결과

연구 질문

• RQ1 언어 모델 기반, 문자열 유사도 기반 시스템은 역사적 문서에서 흔한 OCR 오류를 효과적으로 수정할 수 있는가?
• RQ2 자동 후처리는 OCR로 처리된 초기 현대 영어 텍스트에서 수동 수정 작업을 얼마나 줄일 수 있는가?
• RQ3 언어 모델 점수를 활용한 맥락 인식 보정은 타당한 단어 대체어와 잘못된 대체어를 구분하는 데 얼마나 효과적인가?
• RQ4 모호하거나 매우 비정상적인 OCR 오류에 직면했을 때 이러한 시스템의 한계는 무엇인가?
• RQ5 도구는 비어 있는 단어 오류를 탐지하고 수정할 수 있으며, 인간 감시를 유지하면서도 투명성을 확보할 수 있는가?

주요 결과

• 테스트 코퍼스에서 18세기 문서에서 도구는 OCR 오류의 63%를 수정하여 흔한 오류 유형에 대해 뛰어난 성능을 보였다.
• 66%의 라인에 최소 한 개 이상의 보정이 포함되었으며, 라인당 최대 3개의 보정이 있었고, 이는 오류의 광범위한 커버리지임을 시사한다.
• 특히 'f'와 's' 문자의 오인식으로 인한 빈번한 오류를 성공적으로 수정했으며, 예를 들어 'fuch' → 'such', 'faid' → 'said'와 같은 경우가 포함된다.
• 모호한 경우인 'timeas'의 경우 언어 모델 점수를 바탕으로 'times'를 제안했지만, 인간 검토가 필요했으며, 이는 투명성의 필요성을 강조한다.
• 희귀어나 복잡한 단어인 'fignification'과 같은 단어는 수정되지 않았고, 일부 경우 'Deputy-Governor' → 'Ex-Governor'와 같이 잘못된 대체어를 제안하기도 했다.
• 도구는 어간 또는 어절 내부의 오류, 특히 'shall'과 같은 고빈도 기능어에서 효과적인 보정을 보였다.