[논문 리뷰] Building Efficient CNN Architecture for Offline Handwritten Chinese Character Recognition

Zhiyuan Li, Nanjun Teng외 2명|arXiv (Cornell University)|2018. 04. 04.

Handwritten Text Recognition Techniques참고 문헌 8인용 수 7

한 줄 요약

이 논문은 전체 연결 계층의 파라미터를 줄이기 위해 글로벌 가중 평균 풀링(Global Weighted Average Pooling)을 사용하고, 중간 수준의 출력을 갖는 계층적 모델을 통해 추론 속도를 향상시켜 오프라인 수기 중화자모 스크립트 인식을 위한 효율적인 CNN 아키텍처를 제안한다. 이 방법은 CPU에서 평균 6.9ms의 추론 시간과 3.3MB의 저장 용량으로 97.1%의 정확도를 달성하여 이전 연구 대비 효율성과 정확도에서 뛰어난 성능을 보였다.

ABSTRACT

Deep convolutional networks based methods have brought great breakthrough in images classification, which provides an end-to-end solution for handwritten Chinese character recognition(HCCR) problem through learning discriminative features automatically. Nevertheless, state-of-the-art CNNs appear to incur huge computation cost, and require the storage of a large number of parameters especially in fully connected layers, which is difficult to deploy such networks into alternative hardware device with the limit of computation amount. To solve the storage problem, we propose a novel technique called Global Weighted Arverage Pooling for reducing the parameters in fully connected layer without loss in accuracy. Besides, we implement a cascaded model in single CNN by adding mid output layer to complete recognition as early as possible, which reduces average inference time significantly. Experiments were performed on the ICDAR-2013 offline HCCR dataset, and it is found that the proposed approach only needs 6.9ms for classfying a chracter image on average, and achieves the state-of-the-art accuracy of 97.1% while requiring only 3.3MB for storage.

연구 동기 및 목표

• 최신 기술의 CNN이 오프라인 수기 중화자모 인식(HCCR)에서 높은 계산 비용과 저장 비용을 유발하는 문제를 해결하기 위해.
• 정확도를 유지하면서도 전체 연결 계층의 파라미터 수를 줄이기 위해.
• 중간 수준의 출력 레이어를 통해 일부 입력을 조기에 분류함으로써 추론 속도를 가속화하기 위해.
• 모델 압축과 양자화를 통해 자원 제약이 있는 하드웨어에 배포 가능한 모델을 만들기 위해.

제안 방법

• 저성능 연산과 낮은 파라미터 수를 갖는 컴act한 CNN 아키텍처를 구축하기 위해 SqueezeNet의 파이어 모듈을 채택한다.
• 표준 전체 연결 계층을 대체하기 위해 글로벌 가중 평균 풀링(GWAP)을 도입하여 파라미터 수를 줄이면서도 정확도를 유지한다.
• 추가적인 중간 수준의 출력 레이어를 갖는 계층적 CNN 아키텍처를 구현하여 입력의 약 76%를 중간 수준 레이어에서 조기에 분류함으로써 평균 추론 시간을 단축시킨다.
• 두 단계의 훈련 전략을 적용한다: 먼저 기본 네트워크와 최종 분류기 훈련을 수행하고, 이후에 중간 수준 출력 레이어를 별도로 미세 조정하여 성능을 향상시킨다.
• 합성곱 레이어에는 8비트 정수형 양자화를, 전체 연결 레이어에는 4비트 정수형 양자화를 적용하여 모델 크기를 추가로 압축하고 정확도 손실을 최소화한다.
• 클래스 확률 임계값(예: 0.98)을 활용해 신뢰도가 높을 경우 조기 추론을 유도함으로써 평균 속도를 향상시킨다.

실험 결과

연구 질문

• RQ1 글로벌 가중 평균 풀링(GWAP)이 HCCR에서 전체 연결 계층의 파라미터를 효과적으로 줄이면서도 높은 인식 정확도를 유지할 수 있는가?
• RQ2 단일 CNN 아키텍처에 중간 수준의 출력 레이어를 도입함으로써 최종 정확도를 떨어뜨리지 않고 평균 추론 시간을 크게 줄일 수 있는가?
• RQ3 신뢰도 임계값 기반의 조기 정지 전략을 갖는 계층적 추론이 전체 속도와 정확도의 상호 보완적 관계에 어떤 영향을 미치는가?
• RQ4 모델 양자화를 통해 저장 용량 요구량을 얼마나 줄일 수 있으며, 정확도 저하를 최소화할 수 있는가?
• RQ5 작고 효율적인 CNN 아키텍처가 ICDAR-2013 HCCR 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• 제안된 계층적 모델은 ICDAR-2013 데이터셋에서 최신 기술 수준의 인식 정확도 97.14%를 달성하여 이전 방법들을 능가한다.
• 입력의 약 76%가 중간 수준 레이어에서 조기에 분류됨에 따라 평균 추론 시간이 6.93ms로 단축되었으며, 기준 모델 대비 25% 향상되었다.
• 전체 연결 레이어의 4비트 양자화 이후 모델 크기가 3.3MB로 줄어들어 이전 연구 대비 메모리 프로파일이 크게 감소했다.
• HCCR-WAP 변형은 추가 파라미터 0.03MB만으로도 96.91%의 정확도를 달성하여 GWAP의 파라미터 감소 효과를 입증했다.
• 중간 수준 및 최종 분류기의 별도 훈련 전략은 다중 작업 훈련(96.31%)보다 더 높은 최종 정확도(96.91%)를 달성하여 훈련 전략의 타당성을 입증했다.
• 최종 모델은 94MFLOPs의 계산 비용을 기록하여 CPU 기반 장치에 배포하기에 매우 효율적이다.