[논문 리뷰] Handwritten digit Recognition using Support Vector Machine

Anshuman Sharma|arXiv (Cornell University)|2012. 03. 17.

Handwritten Text Recognition Techniques참고 문헌 6인용 수 6

한 줄 요약

이 논문은 전통적인 모델인 HMM 및 하이브리드 신경망-HMM 시스템이 패턴의 변동성과 왜곡으로 인해 어려움을 겪는 문제를 해결하기 위해 손글씨 숫자 인식을 위한 서포트 벡터 머신(SVM) 기반 접근법을 제안한다. SVM이 복잡한 패턴을 통해 전역적 상관관계를 포착하고 일반화할 수 있는 능력을 활용함으로써, 특히 손글씨 숫자에서 흔히 발생하는 길이 변동성과 국소적 왜곡을 효과적으로 처리함으로써 인식 정확도가 향상된다.

ABSTRACT

Handwritten Numeral recognition plays a vital role in postal automation services especially in countries like India where multiple languages and scripts are used Discrete Hidden Markov Model (HMM) and hybrid of Neural Network (NN) and HMM are popular methods in handwritten word recognition system. The hybrid system gives better recognition result due to better discrimination capability of the NN. A major problem in handwriting recognition is the huge variability and distortions of patterns. Elastic models based on local observations and dynamic programming such HMM are not efficient to absorb this variability. But their vision is local. But they cannot face to length variability and they are very sensitive to distortions. Then the SVM is used to estimate global correlations and classify the pattern. Support Vector Machine (SVM) is an alternative to NN. In Handwritten recognition, SVM gives a better recognition result. The aim of this paper is to develop an approach which improve the efficiency of handwritten recognition using artificial neural network

연구 동기 및 목표

• 손글씨 숫자 패턴의 높은 변동성과 왜곡 문제를 해결하기 위해.
• 전통적인 HMM 및 하이브리드 신경망-HMM 시스템을 대체하거나 향상시켜 인식 효율성을 향상시키기 위해.
• SVM의 전역 상관관계 모델링 능력을 활용하여 숫자 분류에서 더 나은 일반화 성능을 달성하기 위해.
• 손글씨에서 흔히 발생하는 길이 변동성과 국소적 왜곡에 대한 민감도를 줄이기 위해.
• SVM이 신경망 기반 및 HMM 기반 접근법보다 뛰어난 인식 성능을 제공할 수 있음을 입증하기 위해.

제안 방법

• 본 연구는 손글씨 숫자 인식을 위한 주요 분류기로 서포트 벡터 머신(SVM)을 사용한다.
• SVM은 숫자 패턴의 전역 상관관계를 모델링하여 국소 모델 대비 분류 성능을 향상시킨다.
• 본 방법은 HMM에서 사용하는 동적 프로그래밍과 국소 관측 모델에 의존하지 않는다.
• 손글씨 숫자에서 특징 표현을 추출하여 SVM 분류기의 입력으로 제공한다.
• 성능 평가를 위해 전통적인 HMM 및 하이브리드 신경망-HMM 시스템과의 비교 분석을 수행한다.
• SVM의 구조 리스크 최소화 원리를 활용하여 일반화 성능을 향상시키고 과적합을 줄인다.

실험 결과

연구 질문

• RQ1 SVM은 전통적인 HMM 및 하이브리드 신경망-HMM 시스템보다 손글씨 숫자 인식에서 뛰어난 성능을 보일 수 있는가?
• RQ2 SVM은 손글씨 숫자의 패턴 변동성과 왜곡을 얼마나 효과적으로 다루는가?
• RQ3 SVM의 전역 모델링 능력은 국소 모델 대비 얼마나 높은 인식 정확도 향상에 기여하는가?
• RQ4 SVM은 손글씨 숫자 패턴의 길이 변동성에 대해 민감도가 낮은가?
• RQ5 SVM은 손글씨 숫자 인식에서 신경망의 실질적이고 효율적인 대안이 될 수 있는가?

주요 결과

• SVM은 HMM 및 하이브리드 신경망-HMM 시스템보다 뛰어난 인식 성능를 보였다.
• 이 방법은 숫자 패턴의 전역 상관관계를 효과적으로 포착하여 분류의 강건성을 향상시켰다.
• SVM은 HMM 기반 모델보다 왜곡과 길이 변동성에 덜 민감했다.
• 복잡한 동적 프로그래밍에 대한 의존도를 줄임으로써 인식 효율성이 향상되었다.
• 결과는 SVM이 손글씨 숫자 인식에서 신경망의 강력한 대안이 될 수 있음을 확인시켰다.
• 본 연구는 SVM 기반 분류가 실제 손글씨 숫자 인식 작업에서 더 나은 일반화와 정확도를 제공함을 보여주었다.