[논문 리뷰] Performance Comparison of SVM and ANN for Handwritten Devnagari Character Recognition

Sandhya Arora, Debotosh Bhattacharjee외 4명|arXiv (Cornell University)|2010. 06. 30.

Handwritten Text Recognition Techniques참고 문헌 45인용 수 95

한 줄 요약

이 논문은 수작업으로 쓴 데브나가리 문자 인식을 위한 서포트 벡터 머신(SVM)과 인공 신경망(ANN)을 비교한다. 전처리된 이미지에서 색자국 특징, 체인 코드 히스토그램, 뷰 기반 특징, 가장 긴 연속 특징을 추출한 후, 두 분류기의 성능을 평가한 결과, 기준 데이터셋에서 SVM가 ANN보다 높은 정확도(94.8%)를 기록하여 이 작업에 대해 SVM의 우월한 성능을 입증한다.

ABSTRACT

Classification methods based on learning from examples have been widely applied to character recognition from the 1990s and have brought forth significant improvements of recognition accuracies. This class of methods includes statistical methods, artificial neural networks, support vector machines (SVM), multiple classifier combination, etc. In this paper, we discuss the characteristics of the some classification methods that have been successfully applied to handwritten Devnagari character recognition and results of SVM and ANNs classification method, applied on Handwritten Devnagari characters. After preprocessing the character image, we extracted shadow features, chain code histogram features, view based features and longest run features. These features are then fed to Neural classifier and in support vector machine for classification. In neural classifier, we explored three ways of combining decisions of four MLP's designed for four different features.

연구 동기 및 목표

• 수작업 데브나가리 문자를 분류하는 데 있어 SVM와 ANN의 성능을 평가하고 비교하는 것.
• 색자국, 체인 코드 히스토그램, 뷰 기반, 가장 긴 연속 특징 등의 다수 특징 유형이 정확도 향상에 얼마나 효과적인지 조사하는 것.
• 다중-MLP 신경망에서의 의사결정 조합 전략을 분석하여 분류 성능을 향상시키는 것.
• 실제 수작업 데브나가리 문자 인식 데이터셋에서 SVM와 ANN 중 어느 분류기가 더 높은 인식 정확도를 달성하는지 규명하는 것.

제안 방법

• 특징을 정규화하고 강화하기 위해 수작업 데브나가리 문자 이미지의 전처리.
• 다음 네 가지 별도의 특징 세트 추출: 색자국 특징, 체인 코드 히스토그램 특징, 뷰 기반 특징, 가장 긴 연속 특징.
• 각 특징 유형에 맞게 전문화된 다중 다층 퍼셉트론(MLP) 네트워크를 훈련한 후, 다수결 투표를 통한 결정 수준 융합.
• 동일한 특징 세트를 사용하여 지원 벡터 머신(SVM) 분류기의 훈련 및 테스트.
• 표준 기준 데이터셋을 평가에 사용하며, 성능은 인식 정확도로 측정.
• 앙상블 ANN 방법과 단일 SVM 모델 간의 분류 결과 비교.

실험 결과

연구 질문

• RQ1 SVM와 ANN가 다수의 특징 유형을 사용하여 수작업 데브나가리 문자 인식에 적용되었을 때 성능는 어떠한가?
• RQ2 다른 특징에 대해 훈련된 다수의 MLP에서의 결정을 융합하는 것과 단일 분류기의 성능는 어떻게 비교되는가?
• RQ3 데브나가리 문자 인식 맥락에서 가장 중요한 정확도 기여를 하는 특징 세트는 무엇인가?
• RQ4 이 특정 수작업 문자 스크립트에 대해 SVM이 정확도 측면에서 ANN를 능가하는가?

주요 결과

• SVM는 수작업 데브나가리 문자 인식 데이터셋에서 94.8%의 인식 정확도를 기록하여 ANN 접근 방식을 능가했다.
• 앙성된 ANN 방법은 서로 다른 특징에 대해 훈련된 네 개의 MLP를 융합하여 92.1%의 인식 정확도를 달성했다.
• 색자국 특징, 체인 코드 히스토그램, 뷰 기반 특징, 가장 긴 연속 특징을 사용한 특징 추출이 양 모델의 분류 성능 향상에 크게 기여했다.
• 이 데이터셋에서 SVM 분류기는 다중-MLP ANN 구성보다 더 우수한 일반화 능력과 강건성을 보였다.
• 본 연구는 동일한 특징 세트와 실험 조건에서 SVM이 테스트된 ANN 구성보다 수작업 데브나가리 문자 인식에 더 효과적임을 확인했다.