[논문 리뷰] Online Signature Verification using Recurrent Neural Network and Length-normalized Path Signature

Songxuan Lai, Lianwen Jin외 1명|arXiv (Cornell University)|2017. 05. 19.

Handwritten Text Recognition Techniques참고 문헌 19인용 수 5

한 줄 요약

이 논문은 순환 신경망(RNN)과 길이 정규화된 경로 서명(LNPS) 기술자를 조합하여 성능을 향상시키는 새로운 온라인 서명 인증 시스템을 제안한다. 삼중체 손실과 센터 손실을 통한 거리 기반 학습을 통해 RNN은 유사한 클래스 간 변동을 최소화하고 숙련된 위조 서명과의 분리를 극대화하는 특징을 학습한다. 복수의 데이터셋을 통합하여 훈련함으로써 SVC-2004 데이터셋에서 최신 기준인 2.37%의 동등 오류율(EER)을 달성한다.

ABSTRACT

Inspired by the great success of recurrent neural networks (RNNs) in sequential modeling, we introduce a novel RNN system to improve the performance of online signature verification. The training objective is to directly minimize intra-class variations and to push the distances between skilled forgeries and genuine samples above a given threshold. By back-propagating the training signals, our RNN network produced discriminative features with desired metrics. Additionally, we propose a novel descriptor, called the length-normalized path signature (LNPS), and apply it to online signature verification. LNPS has interesting properties, such as scale invariance and rotation invariance after linear combination, and shows promising results in online signature verification. Experiments on the publicly available SVC-2004 dataset yielded state-of-the-art performance of 2.37% equal error rate (EER).

연구 동기 및 목표

• 큰 클래스 내 변동성과 숙련된 위조 서명 문제를 해결하여 온라인 서명 인증 성능을 향상시키기 위해.
• 선형 변환 후 척도 불변성과 회전 불변성을 확보하는 새로운 특징 기술자인 LNPS를 개발하기 위해.
• 거리 기반 학습을 통해 유사한 클래스 간 변동을 최소화하고 이종 클래스 간 간격을 극대화하는 특징를 학습하는 RNN 기반 시스템을 설계하기 위해.
• 다양한 데이터셋 간 지식 전이를 가능하게 하여 일반화 능력과 성능을 향상시키기 위해.
• 기준 데이터셋인 SVC-2004에서 최신 기준 성능을 달성하기 위해.

제안 방법

• LNPS 기술자는 경로 서명에서 경로 길이로 반복 적분을 정규화하여 척도 불변성을 확보함으로써 유도된다.
• 크기 W의 슬라이딩 윈도우를 사용해 서명에서 국소 세그먼트를 추출하고, 각 세그먼트에 대해 수준 m까지 경로 서명을 계산한다.
• RNN 시스템은 삼중체 손실과 센터 손실을 사용하여 유사한 클래스 간 변동을 최소화하고, 진짜 서명 샘플에서 멀리 떨어진 숙련된 위조 서명을 분리시키기 위해 학습한다.
• 특징 일반화와 표현 학습 향상을 위해 복수의 데이터셋(SVC-2004 및 MCYT-100)을 통합하여 훈련한다.
• 최종 특징 표현은 RNN에 순차적으로 입력되는 LNPS 벡터의 시퀀스이다.
• 결정은 코사인 유사도 임계값을 사용하여 진짜 서명과 위조 서명을 구분한다.

실험 결과

연구 질문

• RQ1 LNPS와 같은 새로운 기술자가 온라인 서명 인증의 강인성과 분류 능력을 향상시킬 수 있는가?
• RQ2 거리 기반 학습을 적용한 RNN 기반 시스템이 기존의 DTW 및 HMM 방법보다 온라인 서명 인증에서 더 우수한 성능을 낼 수 있는가?
• RQ3 복수의 데이터셋 간 통합 훈련이 RNN 시스템의 일반화 능력과 성능 향상에 기여하는가?
• RQ4 LNPS 기술자가 서명 표현에서 척도 및 회전 불변성에 얼마나 기여하는가?
• RQ5 제안된 시스템이 SVC-2004 벤치마크에서 최신 기준 성능을 달성할 수 있는가?

주요 결과

• 제안된 RNN 시스템과 LNPS는 SVC-2004 데이터셋에서 최신 기준인 2.37%의 동등 오류율(EER)을 달성하였다.
• MCYT-100 데이터를 통합 훈련함으로써 EER는 외부 데이터 없이 3.58%에서 100명의 MCYT-100 사용자 기준 2.37%로 감소하였다.
• 압력 등의 추가 특징을 사용한 이전 방법보다 x-y 좌표만을 사용한 시스템이 더 뛰어난 성능을 보였다.
• 더 많은 훈련 데이터를 사용할수록 EER가 감소하여 강력한 데이터 확장성과 전이 학습 잠재력이 있음을 시사하였다.
• 시험되지 않은 사용자에 대해서도 진짜 서명과 위조 서명의 점수가 조밀하고 분리되어 있음을 확인하였지만, 일부 사용자에서는 점수 겹침이 관찰되었다.
• LNPS 기술자는 척도 불변성과 선형 조합 이후의 회전 불변성 등의 유망한 성질을 보였으며, 강인성을 향상시켰다.