[논문 리뷰] Implicit segmentation of Kannada characters in offline handwriting recognition using hidden Markov models

Manasij Venkatesh, Vikas Majjagi외 1명|arXiv (Cornell University)|2014. 10. 16.

Handwritten Text Recognition Techniques참고 문헌 12인용 수 4

한 줄 요약

이 논문은 연속 밀도 Hidden Markov Models (HMMs)를 사용하여 오프라인 칸나다 수필 문자 인식에 암묵적 분할 방법을 제안한다. 이는 문자의 융합적 성격을 활용하여 복잡한 문자를 기본 형태로 분해함으로써, 명시적 분할을 피하고 분류 복잡도를 감소시키며, 독립적 문자 분류 대비 정확도를 10% 향상시킨다. Chars74k 데이터셋에서 61.0%의 정확도를 달성했으며, 추가 학습 데이터를 사용함으로써 추가로 4% 향상되었다.

ABSTRACT

We describe a method for classification of handwritten Kannada characters using Hidden Markov Models (HMMs). Kannada script is agglutinative, where simple shapes are concatenated horizontally to form a character. This results in a large number of characters making the task of classification difficult. Character segmentation plays a significant role in reducing the number of classes. Explicit segmentation techniques suffer when overlapping shapes are present, which is common in the case of handwritten text. We use HMMs to take advantage of the agglutinative nature of Kannada script, which allows us to perform implicit segmentation of characters along with recognition. All the experiments are performed on the Chars74k dataset that consists of 657 handwritten characters collected across multiple users. Gradient-based features are extracted from individual characters and are used to train character HMMs. The use of implicit segmentation technique at the character level resulted in an improvement of around 10%. This system also outperformed an existing system tested on the same dataset by around 16%. Analysis based on learning curves showed that increasing the training data could result in better accuracy. Accordingly, we collected additional data and obtained an improvement of 4% with 6 additional samples.

연구 동기 및 목표

• 모르포로지적으로 관련된 문자의 수가 많아 발생하는 칸나다 수필 문자 인식에서의 높은 분류 복잡도 문제를 해결하기 위해.
• 오프라인 수기 인식에서 명시적 분할의 한계를 극복하고, HMM 모델링을 통해 암묵적 분할을 가능하게 하기 위해.
• 칸나다 문자의 융합적 구조를 활용하여 효과적인 학습 샘플 수를 증가시킴으로써 인식 정확도 향상시키기 위해.
• 학습 데이터 크기의 모델 성능에 미치는 영향을 평가하고, 학습 곡선을 통해 데이터 효율성을 입증하기 위해.
• 저자원 인도계 문자인 칸나다어에 대해 오프라인 HWR의 기준 성능을 확립하고, 강력한 특징 및 모델 프레임워크를 제공하기 위해.

제안 방법

• 고정 너비의 수직 스트립을 전역하여 기울기 기반 특징을 추출하는 슬라이딩 윈도우 방식을 사용하여 순차 관측 벡터를 생성한다.
• 결합된 상태 파rameter를 사용하는 왼쪽에서 오른쪽으로의 연속 밀도 HMM을 활용하여 문자 시퀀스를 모델링함으로써, 공동 학습 및 분할을 가능하게 한다.
• 15개 상태 모델 대비 복잡도를 감소시키고 학습 효율을 향상시키기 위해 10개 상태 HMM 아키텍처를 적용한다.
• 관측 밀도 추정을 위해 혼합 정규분포 모델(GMMs)을 사용하며, 검증 정확도를 최적화하여 구성 수를 결정한다.
• 학습 데이터에 분할 경계가 필요 없도록 HMM이 기저 형태(예: 자음 및 어미 기호)를 자동으로 탐지하도록 하여 암묵적 분할을 구현한다.
• 500개 문자에 대해 각각 6개의 추가 샘플을 수집하여 데이터 증강을 수행하고, 모델 재학습을 통해 데이터 영향을 평가한다.

실험 결과

연구 질문

• RQ1 HMM 기반 암묵적 분할이 복수의 독립적 문자 클래스 수를 줄임으로써 오프라인 칸나다 수필 인식의 정확도 향상에 기여할 수 있는가?
• RQ2 HMM 기반 모델링을 통해 칸나다 문자의 융합적 구조를 활용할 경우, 학습 데이터 효율성과 모델 일반화 능력에 어떤 영향을 미치는가?
• RQ3 학습 데이터 크기를 늘일수록 정확도 향상이 얼마나 이루어지는가? 학습 곡선을 통해 이를 분석할 수 있는가?
• RQ4 제안된 HMM 기반 시스템은 Chars74k 데이터셋에서 DCT 기반 최근접 이웃 분류기와 같은 기존 방법보다 어떻게 비교되는가?
• RQ5 향후 연구에서 복합 문자 조합(예: 자음-자음-모음(CCv) 조합)을 다룰 수 있도록 암묵적 분할 기법을 확장할 수 있는가?

주요 결과

• 제안된 HMM 기반 암묵적 분할 방법은 Chars74k 데이터셋에서 61.0%의 인식 정확도를 달성하여, 569개 문자를 모두 독립적 클래스로 간주하는 방법 대비 10% 향상된 성능을 보였다.
• DCT 기반 최근접 이웃 분류기(33.3%)보다 15.9%포인트 높은 성능을 보이며 동일한 데이터셋에서 열등한 성능을 보이는 기존 방법 대비 뛰어난 성능을 입증했다.
• 학습 곡선 분석을 통해 학습 데이터를 늘일수록 정확도 향상이 뚜렷하게 나타났으며, 문자당 6개의 추가 샘플을 추가함으로써 4% 향상된 결과를 관찰했다.
• 10개 상태 모델은 15개 상태 모델 대비 더 높은 성능과 더 빠른 학습 속도를 보였으며, 파rameter 수 감소가 일반화 능력을 향상시켰음을 시사했다.
• 검증 정확도는 10개 GMM 구성에서 최고에 도달했으며, 그 이상으로 증가할수록 감소하는 경향을 보여 과도한 모델 복잡도로 인한 과적합이 발생했음을 나타냈다.
• 결과적으로 성능 향상의 주요 장애물은 모델 아키텍처가 아니라 부족한 학습 데이터임이 드러났으며, 추가적인 데이터 수집이 정확도 향상에 실질적인 기여를 했다.