[논문 리뷰] Application of Transfer Learning to Sign Language Recognition using an Inflated 3D Deep Convolutional Neural Network

Roman Töngi|arXiv (Cornell University)|2021. 02. 25.

Hand Gesture Recognition Systems참고 문헌 14인용 수 4

한 줄 요약

이 논문은 고체 3D 합성곱 신경망(I3D)을 사용하여 고립된 수어 인식(SLR)에 전이 학습을 적용한다. MS-ASL 데이터셋에서 미국 수어를 사전 훈련하고, 더 작은 독일 수어(SIGNUM) 데이터셋에서 미세 조정한다. 이 접근법은 비전이 학습 기반선 대비 최대 21%의 정확도 향상을 달성하여, 데이터가 적은 SLR 환경에서 매우 효과적임을 보여준다.

ABSTRACT

Sign language is the primary language for people with a hearing loss. Sign language recognition (SLR) is the automatic recognition of sign language, which represents a challenging problem for computers, though some progress has been made recently using deep learning. Huge amounts of data are generally required to train deep learning models. However, corresponding datasets are missing for the majority of sign languages. Transfer learning is a technique to utilize a related task with an abundance of data available to help solve a target task lacking sufficient data. Transfer learning has been applied highly successfully in computer vision and natural language processing. However, much less research has been conducted in the field of SLR. This paper investigates how effectively transfer learning can be applied to isolated SLR using an inflated 3D convolutional neural network as the deep learning architecture. Transfer learning is implemented by pre-training a network on the American Sign Language dataset MS-ASL and subsequently fine-tuning it separately on three different sizes of the German Sign Language dataset SIGNUM. The results of the experiments give clear empirical evidence that transfer learning can be effectively applied to isolated SLR. The accuracy performances of the networks applying transfer learning increased substantially by up to 21% as compared to the baseline models that were not pre-trained on the MS-ASL dataset.

연구 동기 및 목표

• 라벨이 부족한 상황에서 전이 학습의 효과성을 고립된 수어 인식(SLR)에 대해 조사하는 것.
• MS-ASL와 같은 대규모 수어 데이터셋에서 사전 훈련한 모델이, 더 작은 목표 데이터셋(SIGNUM)인 독일 수어에서의 성능 향상 여부를 평가하는 것.
• 3D 합성곱 신경망(I3D)을 활용한 영상 기반 SLR에 전이 학습을 적용했을 때 정확도에 미치는 영향을 평가하는 것.
• 전이 학습이 수어 인식 작업에서 데이터 부족 문제를 완화할 수 있는지 판단하는 것.

제안 방법

• 미국 수어의 광범위한 영상 시퀀스를 포함한 MS-ASL 데이터셋에서 고체 3D 합성곱 신경망(I3D)을 사전 훈련한다.
• SIGNUM 데이터셋의 세 가지 다른 서브셋 크기로 사전 훈련된 I3D 모델을 미세 조정하여 독일 수어 데이터의 다양한 양을 반영한다.
• 전이 학습과 비전이 학습 기반선 간의 공정한 비교를 위해 표준 데이터 증강 및 훈련 프로토콜을 사용한다.
• SIGNUM에서의 미세 조정 전에 ImageNet과 MS-ASL에서 사전 훈련된 가중치로 I3D 네트워크를 초기화하여 전이 학습을 적용한다.
• I3D 아키텍처를 목표 SLR 작업에 대해 엔드 투 엔드로 훈련하기 위해 교차 엔트로피 손실과 확률적 경사 하강법을 사용한다.
• 다양한 데이터 제약 조건에서 SIGNUM 데이터셋의 테스트 분할에 대해 정확도 상위 1위 성능을 평가한다.

실험 결과

연구 질문

• RQ1 학습 데이터가 제한된 상황에서 전이 학습이 고립된 수어 인식 모델의 성능을 크게 향상시킬 수 있는가?
• RQ2 대규모 수어 데이터셋(MS-ASL)에서 사전 훈련한 모델이 더 작은 목표 데이터셋(SIGNUM)에서 미세 조정된 모델의 정확도에 어떤 영향을 미치는가?
• RQ3 SLR에서, 풍부한 데이터로 훈련된 모델과 제한된 데이터로 훈련된 모델 간의 성능 격차를 전이 학습이 어느 정도 줄일 수 있는가?
• RQ4 고체 3D CNN 아키텍처의 사용이 영상 기반 수어 인식에서 전이 학습의 효과를 향상시키는가?

주요 결과

• MS-ASL에서 사전 훈련한 전이 학습은 SIGNUM 데이터셋에서 비사전 훈련 기반선 대비 최대 21%의 정확도 향상을 이끌어내는 데 성공했다.
• 성능 향상은 SIGNUM 데이터셋의 더 작은 서브셋에서 가장 두드러졌으며, 이는 전이 학습이 데이터 부족 문제를 효과적으로 완화함을 시사한다.
• 제한된 목표 데이터가 있음에도 불구하고, 미세 조정된 I3D 모델은 높은 정확도를 달성하여 전이 학습이 데이터가 적은 SLR 환경에서 매우 강력함을 입증한다.
• 결과적으로, 영상 기반 수어 인식에 3D CNN에 전이 학습을 적용할 경우 매우 효과적임을 보여준다.
• 사전 훈련된 모델은 다양한 데이터 크기에서 잘 일반화되어 일관된 성능 향상을 유지한다.