[논문 리뷰] Persian Signature Verification using Fully Convolutional Networks

Mohammad Rezaei, Nader Naderi|arXiv (Cornell University)|2019. 09. 20.

Handwritten Text Recognition Techniques참고 문헌 24인용 수 5

한 줄 요약

이 논문은 전연결층이 제거된 완전 컨volutional 네트워크(FCN)를 제안하여 기존의 CNN 대신 전역 평균 풀링(global average pooling)을 사용해 원시 서명 이미지에서 강력한 특징을 직접 추출한다. UTSig 데이터셋에서 FCN는 고정된 컨볼루션 필터 크기와 엔드 투 엔드 학습을 통해 표준 CNN보다 높은 인식 정확도를 달성한다.

ABSTRACT

Fully convolutional networks (FCNs) have been recently used for feature extraction and classification in image and speech recognition, where their inputs have been raw signal or other complicated features. Persian signature verification is done using conventional convolutional neural networks (CNNs). In this paper, we propose to use FCN for learning a robust feature extraction from the raw signature images. FCN can be considered as a variant of CNN where its fully connected layers are replaced with a global pooling layer. In the proposed manner, FCN inputs are raw signature images and convolution filter size is fixed. Recognition accuracy on UTSig database, shows that FCN with a global average pooling outperforms CNN.

연구 동기 및 목표

• 기존의 CNN 대신 완전 컨볼루션 네트워크(FCN)를 활용하여 페르시아어 서명 검증 정확도를 향상시키는 것.
• 더 나은 특징 일반화를 위해 완전 연결층을 제거하고 전역 평균 풀링으로 대체하는 것.
• 수동으로 특징을 설계하지 않고도 원시 서명 이미지를 사용하여 FCN의 성능을 평가하는 것.
• 페르시아어 서명 검증의 맥락에서 FCN 기반 특징 추출과 표준 CNN 간의 성능을 비교하는 것.
• FCN이 픽셀 수준의 입력에서 분류 가능한 특징을 직접 학습하는 데 효과적임을 입증하는 것.

제안 방법

• 제안된 방법은 표준 CNN에서 완전 연결층을 제거하고 전역 평균 풀링 레이어로 대체한 완전 컨볼루션 네트워크(FCN) 아키텍처를 사용한다.
• 네트워크는 고정된 크기의 컨볼루션 필터를 유지하면서 원시 서명 이미지를 입력으로 처리하여 공간 계층을 유지한다.
• 최종 컨볼루션 레이어에서 생성된 특징 맵은 평균 풀링을 통해 전역적으로 풀링되어 고정 길이의 특징 벡터를 생성한다.
• 전역 평균 풀링된 특징은 소프트맥스 레이어에서 분류에 사용되어 엔드 투 엔드 학습을 가능하게 한다.
• 모델은 딥러닝을 위한 표준 최적화 기법을 사용하여 UTSig 데이터베이스에서 엔드 투 엔드로 훈련된다.
• 아키텍처는 완전 연결층을 회피하여 과적합을 줄이고 서명 데이터에 대한 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 완전 컨볼루션 네트워크(FCN)가 페르시아어 서명에서 표준 CNN보다 더 높은 서명 검증 정확도를 달성할 수 있는가?
• RQ2 완전 연결층을 전역 평균 풀링으로 대체할 경우 서명 검증에서 특징 표현에 어떤 영향을 미치는가?
• RQ3 FCN 아키텍처를 사용하여 원시 서명 이미지를 입력으로 사용할 경우 기존의 CNN 대비 성능 향상이 이루어지는가?
• RQ4 고정된 컨볼루션 필터 크기가 페르시아어 서명 검증에서 특징 학습에 어떤 영향을 미치는가?
• RQ5 더 적은 파라미터 수와 전역 풀링 덕분에 FCN이 미리 보지 않은 서명에 더 잘 일반화될 수 있는가?

주요 결과

• 전역 평균 풀링을 사용한 FCN는 UTSig 데이터베이스에서 표준 CNN보다 높은 인식 정확도를 달성했다.
• 제안된 FCN는 전역 평균 풀링이 서명 특징 학습에 효과적임을 입증하며 기존의 CNN을 능가하는 성능을 보였다.
• 수동으로 특징을 설계하지 않고도 원시 서명 이미지만으로도 견고한 성능을 달성했다.
• 완전 연결층을 전역 평균 풀링으로 대체함으로써 과적합이 감소하고 일반화 능력이 향상되었다.
• 고정된 컨볼루션 필터 크기는 다양한 서명 샘플 간 일관된 특징 추출에 기여했다.
• 결과적으로 FCN는 엔드 투 엔드 학습과 파라미터 효율성 덕분에 서명 검증 작업에 매우 적합하다는 것이 확인되었다.