[논문 리뷰] NumtaDB - Assembled Bengali Handwritten Digits

Samiul Alam, Tahsin Reasat외 2명|arXiv (Cornell University)|2018. 01. 01.

Handwritten Text Recognition Techniques참고 문헌 15인용 수 16

한 줄 요약

이 논문은 방글라데시 전역의 여섯 가지 다양한 출처에서 수집한 85,596개의 손글씨 방글라 숫자로 구성된 대규모 공개 데이터셋인 NumtaDB를 소개한다. 이 데이터셋은 공립 대학 학생들과 교육 기관 소속 어린이들로부터 수집되었으며, 다단계 수작업 검증 및 표준화된 전처리를 통해 철저히 정제되어 연령, 성별, 지역에 걸쳐 균형 잡힌 표현과 높은 읽기 가능성을 확보하였다. 이로 인해 편향 최소화된 방글라 손글씨 숫자 인식 시스템의 강력한 벤치마킹이 가능해졌다.

ABSTRACT

To benchmark Bengali digit recognition algorithms, a large publicly available dataset is required which is free from biases originating from geographical location, gender, and age. With this aim in mind, NumtaDB, a dataset consisting of more than 85,000 images of hand-written Bengali digits, has been assembled. This paper documents the collection and curation process of numerals along with the salient statistics of the dataset.

연구 동기 및 목표

• 방글라 손글씨 숫자 인식(HWDR)을 위한 대규모, 공개 가능하고 편향이 없는 데이터셋의 부족을 해결하기 위해.
• 연령, 성별, 지리적 기원에 걸쳐 다양한 표현을 확보하여 학습 및 평가 데이터의 편향을 줄이기 위해.
• 일관된 품질 기준을 적용해 다수의 기존 출처에서 수집한 표준화된 오픈소스 데이터셋을 구축하고 정제하기 위해.
• 다단계 수작업 검증 및 이질적 샘플 제거를 통해 고도로 읽기 가능하고 정확한 참값 레이블을 확보하기 위해.
• 다양한 글씨 스타일을 고려한 방글라 HWDR 알고리즘의 신뢰할 수 있는 평가를 지원하는 벤치마킹 데이터셋을 제공하기 위해.

제안 방법

• BHDDB, B101DB, OngkoDB, DUISRT, BanglaLekha-Isolated, UIUDB의 여섯 개의 별개 출처에서 디지털 이미지를 수집하였으며, 이는 다양한 기관과 수집 기간을 포함한다.
• 모서리 마커와 기하학적 변환을 사용한 마커 기반 이미지 정렬을 통해 격자 형식 스캔에서 숫자를 추출하였으며, 블롭 탐지 및 형태 기준(원형도 및 타원도)을 적용해 마커 중심을 식별하였다.
• 마커가 없는 형식(OngkoDB)의 경우 SURF 기반 특징 매칭과 정사각형 탐지를 사용하여 스캔된 이미지를 기준 템플릿에 정렬한 후 숫자 추출을 수행하였다.
• 정렬된 이미지에서 격자선을 식별하고 개별 숫자 바운딩 박스를 추출하기 위해 X축 및 Y축 방향으로 1차원 합계 계산과 피크 탐지를 적용하였다.
• 다단계 수작업 검증 프로세스를 구현: 초기 숫자별 그룹화, 두 평가자가 익명으로 검토, 홀짝 숫자 분리 후 재검토, 최종 이질적 샘플 스크리닝.
• 엄격한 읽기 가능 기준을 적용: 중복 글씨, 완전하지 않은 획, 격자선 침범, 시각적 모호성 등으로 인해 명확히 식별되지 않는 숫자는 모두 제거하여 읽기 가능성이 확보된 숫자만 유지하였다.

실험 결과

연구 질문

• RQ1 다양한 기존 출처에서 수집한 대규모 공개 데이터셋을 통해 방글라 손글씨 숫자에 대한 최소한의 인구통계적 편향을 가진 데이터셋을 구축할 수 있는가?
• RQ2 다단계 수작업 정제 프로세스는 읽기 어려운, 모호한, 손상된 숫자 샘플을 얼마나 효과적으로 제거할 수 있으며, 글씨 스타일의 다양성은 유지되는가?
• RQ3 다른 기관과 연령대에서 수집한 데이터셋을 통합함으로써 단일 출처 데이터셋에 비해 방글라 HWDR 모델의 강건성은 어느 정도 향상되는가?
• RQ4 마커가 없는 경우에도 기하학적 제약 조건과 특징 기반 정렬을 통해 스캔된 형식에서 자동으로 숫자 추출을 신뢰성 있게 수행할 수 있는가?
• RQ5 어린이와 다양한 지역 기여자로부터의 샘플 포함이 HWDR 시스템의 일반화 능력을 어느 정도 향상시키는가?

주요 결과

• 최종적으로 13,552개의 읽기 어려운 또는 손상된 샘플을 제거한 후, 수작업으로 검증된 고품질의 손글씨 방글라 숫자 이미지 85,596개로 구성된 NumtaDB 데이터셋을 확보하였다.
• 2,700명 이상의 기여자들이 다양한 연령대(6–28세), 성별, 지리적 지역에서 기여하여 인구통계적 편향이 크게 감소하였다.
• 학습 세트에는 총 데이터의 84.2%에 해당하는 72,044개의 숫자가 포함되었고, 테스트 세트에는 15.8%에 해당하는 13,552개의 숫자가 포함되었으며, UIUDB를 제외한 모든 데이터셋에 대해 엄격한 85%-15% 분할 기준을 적용하였다.
• UIUDB 데이터셋은 스마트폰 사진과 페인팅 애플리케이션에서 촬영된 고유한 기원을 지녀, 실제 세계의 다양성을 반영하기 위해 테스트 세트에 전부 유지되었다.
• 어린이들로부터 수집된 BanglaLekha-Isolated 데이터셋은 노이즈 제거 및 액면비 조정 전처리를 거쳐, 젊은 글쓰기 스타일의 대표성을 향상시켰다.
• 최종 데이터셋은 0~9까지의 10개 클래스 전부에 대해 균형 잡힌 숫자 분포를 유지하였으며, 학습 및 테스트 세트 모두 각 숫자 클래스에 약 같은 수의 샘플이 포함되어 있었다.