[논문 리뷰] A Hybrid NN/HMM Modeling Technique for Online Arabic Handwriting Recognition

Najiba Tagougui, Houcine Boubaker외 2명|arXiv (Cornell University)|2014. 01. 02.

Handwritten Text Recognition Techniques참고 문헌 17인용 수 24

한 줄 요약

이 논문은 온라인 아랍어 필기 인식을 위한 하이브리드 신경망(NN)/숨은 마르코프 모델(HMM) 프레임워크를 제안한다. 스트로크 세그먼트를 추출하기 위해 베타-타원형 분할 전략을 사용하고, 문자 확률을 계산하기 위해 다층 퍼셉트론(MLP)을 사용하며, 이를 HMM으로 디코딩한다. 이 시스템은 ADAB 데이터베이스에서 문자 인식 정확도 96.4%를 달성하여 최신 기술보다 뚜렷이 뛰어나다.

ABSTRACT

In this work we propose a hybrid NN/HMM model for online Arabic handwriting recognition. The proposed system is based on Hidden Markov Models (HMMs) and Multi Layer Perceptron Neural Networks (MLPNNs). The input signal is segmented to continuous strokes called segments based on the Beta-Elliptical strategy by inspecting the extremum points of the curvilinear velocity profile. A neural network trained with segment level contextual information is used to extract class character probabilities. The output of this network is decoded by HMMs to provide character level recognition. In evaluations on the ADAB database, we achieved 96.4% character recognition accuracy that is statistically significantly important in comparison with character recognition accuracies obtained from state-of-the-art online Arabic systems.8

연구 동기 및 목표

• 신경망과 HMM의 장점을 융합하여 온라인 아랍어 필기 인식의 정확도를 향상시키기 위해.
• 곡선 속도 프로파일의 극값 점을 기반으로 동적 입력으로부터 연속된 스트로크를 식별하는 강력한 분할 방법을 개발하기 위해.
• 다층 퍼셉트론(MLP)을 통해 세그먼트 수준의 문맥 정보를 활용하여 문자 확률 추정을 향상시키기 위해.
• 신경망 출력을 HMM 디코딩과 융합하여 문자 수준의 인식 성능을 향상시키기 위해.
• 표준 벤치마크(ADAB 데이터베이스)에서 시스템을 평가하고 기존 접근 방식보다 통계적으로 뛰어난 성능을 입증하기 위해.

제안 방법

• 입력 신호는 곡선 속도 프로파일의 극값 점을 기반으로 한 베타-타원형 전략을 사용하여 연속된 스트로크로 분할된다.
• 문맥 정보를 포함한 세그먼트 수준 특징을 기반으로 다층 퍼셉트론(MLP)이 훈련되어 문자 확률을 예측한다.
• MLP의 출력은 HMM 기반 디코더에 입력되어 가장 가능성 있는 문자 시퀀스를 결정한다.
• 시간 왜곡과 HMM 상태 전이를 사용하여 필기의 시간적 변동성을 모델링한다.
• 특징 추출에는 방향, 곡률, 속도와 같은 스트로크의 공간적 및 시간적 특징이 포함된다.
• 하이브리드 아키텍처는 MLP의 패턴 인식 능력과 HMM의 시퀀스 모델링 능력을 융합한다.

실험 결과

연구 질문

• RQ1 단독 모델 대비 하이브리드 NN/HMM 모델이 온라인 아랍어 필기 인식의 문자 인식 정확도를 향상시킬 수 있는가?
• RQ2 베타-타원형 분할 전략은 동적 입력으로부터 의미 있는 필기 스트로크를 효과적으로 분리하는가?
• RQ3 MLP를 통한 세그먼트 수준의 문맥 정보 통합이 문자 확률 추정에 어느 정도 향상 효과를 미치는가?
• RQ4 MLP 출력을 HMM 디코딩과 융합함으로써 통계적으로 유의미한 성능 향상이 이루어지는가?
• RQ5 제안된 시스템은 표준 벤치마크에서 최신 기술의 온라인 아랍어 필기 인식 시스템과 비교해 어떻게 성능을 냅니다?

주요 결과

• 제안된 하이브리드 NN/HMM 모델은 ADAB 데이터베이스에서 문자 인식 정확도 96.4%를 달성했다.
• 이 정확도는 최신 기술의 온라인 아랍어 필기 인식 시스템보다 통계적으로 유의미하게 높았다.
• 베타-타원형 분할 방법은 곡선 속도 프로파일의 극값 점을 사용하여 스트로크 경계를 효과적으로 식별했다.
• MLP에서 세그먼트 수준의 문맥 정보를 활용함으로써 문자 확률 추정의 신뢰성이 향상되었다.
• MLP 출력을 HMM 디코딩과 융합함으로써 시퀀스 수준의 인식 성능이 향상되었다.
• 시스템은 실제 온라인 아랍어 필기 데이터에서 뛰어난 강건성과 일반화 능력을 보였다.