[논문 리뷰] Urdu Handwritten Text Recognition Using ResNet18

Muhammad Kashif|arXiv (Cornell University)|2021. 02. 19.

Handwritten Text Recognition Techniques참고 문헌 28인용 수 11

한 줄 요약

이 논문은 우르두어 손글씨 인식을 위한 ResNet18의 새로운 응용을 제안하며, 우르두어 나스타리크 손글씨 데이터셋(UNHD)을 사용하여 잔차 학습을 활용해 복잡한 기울인 글자 패턴을 포착함으로써 이전 방법들보다 향상된 정확도를 달성한다. 저자들에 따르면, 이는 UNHD 데이터셋에 ResNet18을 처음으로 적용한 것으로, 강력한 우르두어 HCR 시스템 구축을 위한 중요한 계기이다.

ABSTRACT

Handwritten text recognition is an active research area in the field of deep learning and artificial intelligence to convert handwritten text into machine-understandable. A lot of work has been done for other languages, especially for English, but work for the Urdu language is very minimal due to the cursive nature of Urdu characters. The need for Urdu HCR systems is increasing because of the advancement of technology. In this paper, we propose a ResNet18 model for handwritten text recognition using Urdu Nastaliq Handwritten Dataset (UNHD) which contains 3,12000 words written by 500 candidates.

연구 동기 및 목표

• 우르두어는 기울인 글자이자 매우 다양성이 높은 스크립트를 지닌 언어이므로, 효과적인 손글씨 인식(HTR) 시스템의 부족을 해결하기 위해.
• 500명의 기자들로부터 312,000개의 단어를 포함한 우르두어 나스타리크 손글씨 데이터셋(UNHD)에서 정확도 향상을 위해.
• 딥 잔차 신경망(ResNet18)이 우르두어 스크립트의 복잡한 형태와 획 변형을 포착하는 데 얼마나 효과적인지 탐구하기 위해.
• 최신의 CNN 아키텍처를 UNHD 데이터셋에 적용하여 향후 연구를 위한 새로운 벤치마크를 제공하기 위해.

제안 방법

• 모델 훈련을 위한 입력 표준화와 노이즈 감소를 위해 UNHD 데이터셋 이미지 전처리.
• 초기 기준선으로 1차원 양방향 LSTM 적용 시 불만족스러운 결과 도출.
• 우르두어 손글씨 문자에서 계층적 특징을 추출하기 위해 18개의 합성곱층을 가진 ResNet18 아키텍처 구현.
• 심층 신경망 훈련의 안정성을 높이고 기울어짐 기울기 문제를 완화하기 위해 ResNet18의 스킵 연결 사용.
• GPU 가속 환경(Colab 및 NVIDIA GTX 1660 Ti)을 사용해 UNHD 데이터셋의 일부를 훈련 세트로 활용.
• 표준 평가 지표를 사용해 성능 평가를 수행하며, 동일한 데이터셋에서 이전 연구와의 정확도 비교에 중점을 둠.

실험 결과

연구 질문

• RQ1 ResNet18과 같은 딥 잔차 신경망은 우르두어 손글씨의 기울인 글자와 스타일이 다양하게 변형된 글자를 효과적으로 인식할 수 있는가?
• RQ2 UNHD 데이터셋에서 ResNet18의 성능은 이전 모델, 예를 들어 양방향 LSTM과 비교해 어떻게 다른가?
• RQ3 ResNet18에서 스킵 연결을 사용할 경우, 우르두어 HTR를 위한 특징 학습에 얼마나 기여하는가?
• RQ4 사전 훈련된 또는 미세조정된 ResNet18 아키텍처를 적용할 경우, 동일한 데이터셋에서 이전 방법들보다 더 높은 정확도를 달성할 수 있는가?

주요 결과

• 제안된 ResNet18 모델은 UNHD 데이터셋에서 이전 방법들보다 더 높은 정확도를 달성하여, 우르두어 HTR의 새로운 벤치마크를 설정하였다.
• ResNet18에서 스킵 연결을 사용함으로써 기울기 흐름이 향상되어 심층 아키텍처에서 더 안정적이고 효과적인 훈련이 가능했다.
• 모델은 복잡한 연결된 형태나 다중 획으로 구성된 기울인 우르두어 문자에 대해서도 강력한 일반화 성능을 보였다.
• 저자들은 ResNet18이 우르두어 손글씨 인식에 실현 가능하고 효과적인 아키텍처임을 확인하였으며, 동일한 데이터셋에서 이전의 RNN 기반 방법들보다 뛰어난 성능을 보였다.
• 이 연구는 UNHD 데이터셋에 ResNet18을 처음으로 적용한 것으로, 향후 연구를 위한 새로운 기준을 제시한다.