[논문 리뷰] Predicting gender of Brazilian names using deep learning.

Rosana C. B. Rego, Verônica Maria Lima Silva|arXiv (Cornell University)|2021. 06. 18.

Authorship Attribution and Profiling참고 문헌 26인용 수 4

한 줄 요약

이 논문은 브라질리언 성함의 성별을 예측하기 위해 피드포워드 및 순환 신경망—MLP, RNN, GRU, CNN 및 BiLSTM—을 평가한다. 브라질리언 성함 데이터셋을 사용하여, 특히 BiLSTM가 피드포워드 모델보다 우수한 성능을 보이며, 이름을 순차적 문자 특징으로 간주함으로써 90% 이상의 정확도를 달성함을 입증한다.

ABSTRACT

Predicting gender by the name is not a simple task. In many applications, especially in the natural language processing (NLP) field, this task may be necessary, mainly when considering foreign names. Some machine learning algorithms can satisfactorily perform the prediction. In this paper, we examined and implemented feedforward and recurrent deep neural network models, such as MLP, RNN, GRU, CNN, and BiLSTM, to classify gender through the first name. A dataset of Brazilian names is used to train and evaluate the models. We analyzed the accuracy, recall, precision, and confusion matrix to measure the models' performances. The results indicate that the gender prediction can be performed from the feature extraction strategy looking at the names as a set of strings. Some models accurately predict the gender in more than 90% of the cases. The recurrent models overcome the feedforward models in this binary classification problem.

연구 동기 및 목표

• 브라질리언 성함에서 성별을 예측하기 위한 다양한 딥러닝 아키텍처의 효과성을 조사하기 위해.
• GRU 및 BiLSTM와 같은 순환 모델이 MLP 및 CNN와 같은 피드포워드 모델보다 이 이진 분류 작업에서 더 우수한 성능을 보이는지 평가하기 위해.
• 정확도, 정밀도, 재현율 및 혼동 행렬과 같은 표준 지표를 사용하여 모델 성능을 분석하기 위해.
• 이름을 문자의 시퀀스로 간주함으로써, 오직 이름만을 입력으로 사용하여 성별 예측이 가능한지 탐색하기 위해.
• 실증적 평가를 바탕으로 브라질리언 성함에 대한 성별 분류 최적의 딥러닝 아키텍처를 규명하기 위해.

제안 방법

• 학습 및 평가를 위해 성별 레이블이 부여된 브라질리언 성함 데이터셋을 사용하였다.
• 성별 분류를 위해 피드포워드 모델(MLP, CNN)과 순환 모델(RNN, GRU, BiLSTM)을 구현하였다.
• 각 이름을 문자의 시퀀스로 간주하여, 입력 표현으로 단어 임베딩 또는 원핫 인코딩을 사용하였다.
• 분류형 교차 엔트로피 손실을 사용하여 표준 딥러닝 최적화 기법으로 모델을 훈련시켰다.
• 정확도, 정밀도, 재현율 및 혼동 행렬을 사용하여 성능을 비교하기 위해 모델을 평가하였다.
• 성별 예측을 위한 언어적 단서를 포착하기 위해 이름의 문자 수준 패턴에 중점을 둔 특징 추출 전략을 적용하였다.

실험 결과

연구 질문

• RQ1 브라질리언 성함에서 성별 예측에 가장 우수한 성능을 보이는 딥러닝 아키텍처는 무엇인가?
• RQ2 이 작업에서 순환 모델은 피드포워드 모델에 비해 정확도와 강건성 측면에서 어떻게 비교되는가?
• RQ3 어느 정도까지 이름을 입력으로만 사용하여 순차 기반 특징 학습을 통해 성별을 예측할 수 있는가?
• RQ4 이 이진 분류 문제에서 다양한 모델 간의 정밀도와 재현율의 상호 보완 관계는 어떠한가?
• RQ5 문자 수준의 순차 모델링은 브라질리언 성함의 성별 관련 패턴을 효과적으로 포착할 수 있는가?

주요 결과

• 특히 BiLSTM가 피드포워드 모델보다 브라질리언 성함의 성별 예측 정확도에서 뛰어난 성능을 보였다.
• 가장 뛰어난 성능을 보인 모델들은 데이터셋에서 90% 이상의 성별 예측 정확도를 달성하였다.
• GRU 및 BiLSTM 모델은 MLP 및 CNN에 비해 더 높은 재현율과 정밀도를 보이며, 더 우수한 일반화 능력을 나타내었다.
• 혼동 행렬 분석을 통해 순환 모델이 성별 신호가 모호한 이름에 대해 더 적은 오분류를 보였음을 확인하였다.
• 문자 수준의 시퀀스 기반 특징 추출은 성별과 관련된 언어적 패턴을 효과적으로 포착하였다.
• 이 연구는 딥러닝 모델이 이름 문자열을 유일한 입력으로 사용하여 성별을 신뢰성 있게 예측할 수 있음을 확인하였다.