[논문 리뷰] Digitizing Historical Balance Sheet Data: A Practitioner's Guide

Sergio Correia, Stephan Luck|arXiv (Cornell University)|2022. 03. 31.

Stock Market Forecasting Methods참고 문헌 40인용 수 9

한 줄 요약

이 논문은 OCR에 사전 및 사후 처리 기법을 결합하여 대규모 역사적 손익계산서 데이터를 정확하게 디지털화하는 실용적이고 오픈소스 프레임워크인 quipucamayoc을 제시한다. 클라우드 기반 OCR, 레이아웃 분석, 철자 검사, 회계 식별 검증을 활용함으로써 노이즈가 많은 스캔 자료에서도 높은 정확도를 달성하여 경제사학자들이 비용 효율적으로 대규모 데이터 추출을 수행할 수 있도록 한다.

ABSTRACT

This paper discusses how to successfully digitize large-scale historical micro-data by augmenting optical character recognition (OCR) engines with pre- and post-processing methods. Although OCR software has improved dramatically in recent years due to improvements in machine learning, off-the-shelf OCR applications still present high error rates which limit their applications for accurate extraction of structured information. Complementing OCR with additional methods can however dramatically increase its success rate, making it a powerful and cost-efficient tool for economic historians. This paper showcases these methods and explains why they are useful. We apply them against two large balance sheet datasets and introduce quipucamayoc, a Python package containing these methods in a unified framework.

연구 동기 및 목표

• 높은 정확도와 낮은 비용으로 역사적으로 스캔된 문서에서 구조화된 손익계산서 데이터를 추출하는 데 도전하는 것.
• 모듈러하고 재사용 가능한 파이프라인을 통해 수동 데이터 입력에 대한 의존도를 줄여 자동화된 디지털화를 실현하는 것.
• OpenCV 및 클라우드 OCR(예: AWS Textract)와 같은 기존 도구를 통합한 실용적이고 오픈소스 솔루션을 제공하여 프로그래밍 전문 지식이 제한된 연구자들에게도 접근 가능하게 하는 것.
• 연구자들이 저수준의 OCR 관리에 집중하기보다는 도메인 특화 검증 및 오류 탐지에 집중할 수 있도록 돕는 것.
• 미국 국립은행 보고서(1867–1904)와 독일 기업 손익계산서(1915–1933)의 두 가지 대규모이고 다양한 데이터셋을 대상으로 본 방법의 효과성을 입증하는 것.

제안 방법

• 사전 처리(이미지 왜곡 보정, 대trast 조정), 상용 엔진(예: Google Vision, AWS Textract)을 활용한 OCR 및 레이아웃 인식, 검증 로직을 적용한 사후 처리를 포함하는 세 핵심 단계로 구성된 데이터 추출 파이프라인 적용.
• 재무 용어에 훈련된 철자 검사기로 숫자 및 텍스트 필드의 OCR 오류를 수정.
• 손익계산서 식별자(예: 자산 = 부채 + 자본금)와 같은 회계 식별자를 활용해 추출된 데이터의 구조적 일관성 문제를 탐지하고 수정.
• 연구자가 '기준 참값'(ground truth) 데이터셋을 생성하여 파이프라인 정확도를 평가하고 최적화할 수 있도록 인간이 개입하는 검증 단계를 구현.
• OCR 통합, 사전 처리, 검증 로직을 봉인한 모듈러한 Python 패키지 quipucamayoc을 개발하고 명령줄 인터페이스 및 프로그래밍 인터페이스를 제공.
• 작은 규모의 프로젝트에 적합한 경량적이고 스크립트가 필요 없는 OCR 처리를 위해 패키지의 명령줄 도구(예: `quipu extract -tables`)를 활용.

실험 결과

연구 질문

• RQ1 어떻게 하면 OCR 기반의 역사적 손익계산서 디지털화를 대규모로 정확하고 비용 효율적으로 수행할 수 있는가?
• RQ2 어떤 사전 및 사후 처리 기법이 저품질 스캔 문서에서 구조화된 재무 데이터의 OCR 정확도를 크게 향상시키는가?
• RQ3 손익계산서 데이터의 OCR 출력을 검증하고 수정하는 데 있어 회계 식별자는 어느 정도 활용될 수 있는가?
• RQ4 통합된 오픈소스 소프트웨어 프레임워크는 경제사학자들이 역사적 마이크로 데이터를 디지털화하기 위해 기술적 장벽을 낮출 수 있는가?
• RQ5 연구자들은 커스텀 OCR 엔진을 작성하지 않고도 어떻게 OCR 파이프라인을 효율적으로 최적화할 수 있는가?

주요 결과

• 60자리 숫자가 포함된 표에 대해 95%의 문자 정확도를 보이는 OCR을 적용할 경우 오류율이 95%를 초과할 수 있음을 시사하며, 이는 사후 처리의 필수성을 강조한다.
• 사전 처리, 철자 검사, 회계 식별 검증을 결합한 OCR 기반 접근 방식이 오류율을 크게 감소시켜 대규모 데이터셋에서 신뢰할 수 있는 추출을 가능하게 했다.
• quipucamayoc 패키지는 1867–1904년 기간 동안의 10만 건 이상의 미국 국립은행 손익계산서와 1915–1933년 기간 동안의 3만 건의 독일 기업 손익계산서를 고정밀도로 디지털화하는 데 성공했다.
• 인간이 검증한 기준 참값을 활용해 연구자들은 정확도 지표를 구축하고 파이프라인 파rameter를 반복적으로 개선할 수 있었다.
• quipucamayoc의 명령줄 도구를 통해 프로그래밍 경험이 없는 사용자도 파이썬 코드를 작성하지 않고도 OCR을 수행하고 데이터를 추출할 수 있었다.
• 프레임워크의 모듈러한 설계 덕분에 연구자들은 간단한 시작부터 필요에 따라 복잡도를 점진적으로 증가시킬 수 있었으며, 조기 최적화를 피할 수 있었다.